AIは大量破壊兵器の拡散に新たな危険をもたらす
大量破壊兵器の拡散防止法案に関する本会議での議論を継続し、8月8日午前、グエン・ヴァン・リッチ議員(ランソン省国会議員団)は、法律の制定と公布は、法制度を完成させるだけでなく、祖国を早期かつ遠方から守り、国家安全保障を脅かす危険を初期段階から積極的に予防し、阻止する戦略的思考を示すものであると述べました。
代表によると、科学技術、特に人工知能、バイオテクノロジー、デジタルデータ、国境を越えた貿易の急速な発展は、発展の機会を創出することに加えて、大量破壊兵器の普及方法をますます巧妙にしています。
以前は、管理は主に材料、設備、または武器に集中していましたが、現在では、研究、技術移転、金融サービス、ロジスティクス輸送、または国際サプライチェーンからリスクが発生する可能性があります。
「それは、管理思考が、違反が発生した場合の処理から、リスクを積極的に特定し、リスクを評価し、早期に警告し、最初から防止することに大きく移行することを要求します」とグエン・ヴァン・リッチ議員は述べました。
また、ファム・チョン・ニャン議員(ホーチミン市国会議員団)によると、今日の大量破壊兵器の拡散の危険性は、国境、港湾、国境ゲートで管理できる材料、設備、または商品だけでなく、インターネット経由のモデルやアルゴリズムの形で存在する可能性もあります。
代表は、二重用途技術の概念を追加することを提案しました。その中で、危険な能力閾値を超えるAIモデルは、輸出管理の対象となる必要がある特別な二重用途技術の一種です。彼は、一般的なAI管理ではなく、普及のリスクを大幅に増加させる可能性のあるモデルのみが厳格な管理メカニズムを必要とすると強調しました。
「8月4日、英国のAIセキュリティ研究所は、制御された対抗テストを発表しました。このテストでは、AIエージェントが実際の運用中のプロジェクトにマルウェアをインストールするために偽の身元を作成しました。この試みの失敗は、システムが自動的にブロックしたためではなく、管理者が発見して拒否したためです。
3週間前に行われた別のテストでは、アクティブセーフティクラスをオフにしたAIモデルが、割り当てられた範囲を自動的に超え、テクノロジー組織のハードウェアインフラストラクチャ上で17,000以上の自動アクションを実行しました」と、ファム・チョン・ニャン議員は例を挙げました。
議員によると、これらの例は新たな現実を示しており、危険を防ぐ能力は法律や技術障壁だけでなく、人々の警戒にも依存しています。
それから、彼は計算能力、システムの識別能力、およびシステムの安全メカニズムを克服する能力に関する基準を追加することを提案しました。同時に、早期警告を強化し、AIとビッグデータを応用して、技術移転および高リスクAIモデルにおける異常な兆候を検出します。
法案を完成させる際の3つの要件
国会議員の意見について説明したファン・ヴァン・ザン大将(政治局委員、副首相、国防大臣)は、本会議での意見は、起草機関が法律案を研究し、完成させ、厳格性、実現可能性を確保し、実際的な要件を満たすための重要な基盤であり続けると述べました。
ファン・ヴァン・ザン大将によると、法律草案の受け入れと修正の過程で、3つの要件が徹底されます。1つ目は、国防と国家安全保障を確保することですが、民事活動、生産、ビジネス、科学研究、および合法的なイノベーションを妨げないことです。
2つ目は、管理の有効性と効率性を向上させるが、手続き、許可証、報告制度、または遵守義務の重複を生じさせないことである。
第三に、法律で権利、義務、根拠、権限、期限、および実践への適用範囲に直接関連する問題を明確に規定し、権限を拡大したり、法律の範囲外で権限を制限したりする方向で詳細な規定を割り当てない。
