高リスクの人工知能システムは、2026年5月からどのように管理されるのか?

ラオドン新聞法律相談室の回答:

政令142/2026/ND-CP第15条は、人工知能法(2026年5月1日から施行)のいくつかの条項および実施措置を詳細に規定しており、リスクの高い人工知能システムの管理について次のように規定しています。

1. リスクの高い人工知能システムプロバイダーは、自社が提供するシステムのリスク管理システムを、システムの使用目的、展開範囲、およびリスクレベルに合わせて確立および維持する必要があります。

2. 本条第1項に規定するリスク管理システムには、少なくとも以下の内容が含まれます。

a) システムの設計、開発、および提供の過程で、人権、安全、セキュリティ、または公共の利益に発生する可能性のあるリスクを特定および評価します。

b)データから発生するリスクを制限するために必要な範囲内で、トレーニングデータ、テストデータ、および評価データの品質、適合性、および代表性を確保する。

c)システムのリスクレベルに適した人間の監視および介入メカニズムを設計および維持すること。

d) 特定されたリスクを予防、制限、または制御するために、技術的措置または管理措置を適用すること。

e)システムのモデル、データ、運用方法、または使用目的に重大な変更がある場合、リスク管理対策を見直し、更新します。

3. サプライヤーは、システムの目的、安全な運用条件、特定されたリスク、および対応するリスク管理措置に関する必要な情報を、展開側に提供する責任があります。これは、システムの展開と適切な目的での使用を保証するためです。

4. リスクの高い人工知能システムを展開する側は、使用目的、展開範囲、システムのリスクレベル、およびサプライヤーの技術指導に従って、システムの展開および運用プロセスにおけるリスク管理を組織する必要があります。

5. 展開および運用プロセスにおいて、展開側は次のリスク管理措置を実施します。

a) サプライヤーが特定した使用目的、使用条件、および使用制限に従ってシステムを運用すること。

b) 誤り、リスク、または発生する可能性のある事故を検出するために、システムの運用を監視する組織。

c) 法律の規定に従って、システムの使用プロセスにおける人間の監視および介入メカニズムを確立および維持すること。

d)システムが使用目的どおりに動作していない場合、または新たなリスクが発生した場合に、自身の管理権限の範囲内でリスクを制限または管理する措置を適用すること。

e)システムに重大な変更がある場合、または問題が発生した場合に、サプライヤーと協力してリスク管理対策を見直し、更新します。

6. システムが人命、健康、人権、財産、サイバーセキュリティ、社会秩序、社会安全、または公共の利益に重大な損害を与える危険性があることが判明した場合、実施者は、自身の管理権限の範囲内でリスクを制限する措置を迅速に適用し、法律の規定に従ってサプライヤーおよび管轄の国家機関に通知する必要があります。

したがって、2026年5月1日から、高リスクの人工知能システムは上記の規制に従って管理されます。