TikTokアカウント「ngoclan9308」は、AIを利用して普通の販売員の動画を障害者に編集して思いやりや販売を呼びかけたとして非難された後、すぐにすべてのコンテンツを非表示にした。この行為はソーシャルネットワーク上で怒りを引き起こし、「感情的搾取」「非人道的」と判断された。多くの人は、これはAI悪用の憂慮すべき兆候であると信じており、当局に対し、このテクノロジーによって作成されたコンテンツの管理を強化するよう求めています。
この問題について議論する中で、ローキー法律事務所の副所長であるグエン・ヴァン・ピ弁護士は、この行為は重大な個人権侵害であり、行政的に取り扱われるか刑事訴追される可能性があると述べた。
グエン・ヴァン・ピ弁護士によると、商業目的で他人の画像を同意なく使用し、AIで編集して障害者のように見せる行為は、2015年民法第25条に規定される個人画像に対する人格権の侵害となる。
AIを利用して虚偽のイメージを作り、他人を障害者と誤認させる行為は、肖像権を侵害するだけでなく、民法第34条で法律で保護される名誉、尊厳、名誉を侵害するものです。違反を受けた人は裁判所に対し、虚偽の情報が間違っていると宣言し、謝罪を強要し、公的に訂正し、精神的損害を賠償するよう請求することができる。報酬水準は民法第592条に規定されている基本給の10倍までとなります。
弁護士は、この行為は単なるセールストリックではなく、人間の尊厳を歪め、侮辱するものであると強調した。 「共感や利益を生み出すために他人のイメージを利用することは、違法かつ不道徳な行為です。なりすまされる人を傷つけ、本当に困難な状況ではコミュニティの信頼を失うという二重の損害をもたらします」とファイ氏は述べた。
対応のレベルに関して、ファイ氏は、性質と結果に応じて、違反者は行政制裁または刑事訴追の対象となる可能性があると述べた。法令 15/2020/ND-CP によると、ソーシャル ネットワーク上で虚偽の情報を提供および共有したり、他者の名誉や尊厳を歪曲または侮辱したりする行為には、1,000 万から 2,000 万 VND の罰金が科せられ、違反コンテンツの削除が強制される可能性があります。他人の評判に影響を与える歪んだ画像を拡散する行為に対しては、政令 144/2021/ND-CP に従って 300 万から 500 万 VND の罰金が科される可能性があります。
重大なケースでは、虚偽の情報を捏造または広める行為が名誉や尊厳を著しく侵害すること、または他人の正当な権利や利益に損害を与えることを目的としている場合、違反者は刑法第 156 条に基づく名誉毀損罪で起訴される可能性があります。 5,000万VND以上の不法利益を得たり、1億VND以上の損害を与えたり、画像使用者の評判を低下させたりすることを目的とした行為は、刑法第288条のコンピュータネットワークや電気通信ネットワーク上の情報の不法授与・使用罪に基づいて取り扱われる可能性がある。
ソーシャル ネットワーキング プラットフォームの責任について議論する際、ファイ氏は、政令 147/2024/ND-CP の第 35 条の規制を引用し、ネットワーク サービス プロバイダーに対し、違反情報を発見してから 24 時間以内にチェック、監視、削除することを義務付けています。または苦情の受領後 48 時間以内。対処されない場合、プラットフォームは停止またはライセンスが取り消される可能性があります。
ファイ氏によると、規制はあるものの、実際には視聴回数や収益を追うために多くのプラットフォームで処理が遅れているという。 「プラットフォームはAIやユーザーを責めることはできない。アルゴリズムとコンテンツの承認プロセスを管理しているのはプラットフォームなので、違反動画が流出した場合にもプラットフォームが責任を負わなければならない」とファイ氏は語った。
同弁護士はまた、ベトナムはAIの開発と使用のための明確な法的枠組みを定める人工知能法を早急に制定する必要があると述べた。 「この法律はリスクを管理するだけでなく、AIが悪用される可能性から人々を守るものだ。すぐに調整しなければ同様の事件が再発し、社会倫理や国民のプライバシー権に影響を与えるだろう」とファイ氏は述べた。
AI を使用して利益を得るために他人のイメージを歪めるという事例は、新しいテクノロジーに対する認識と合法性のギャップを示しています。テクノロジーが法律を超えた場合、タイムリーかつ厳格に対処することは、被害者を保護するだけでなく、デジタル空間における倫理的限界を確認するのにも役立ちます。
