人工知能の急速な発展により、偽の写真、ディープフェイクビデオ、および誤ったコンテンツがソーシャルネットワーク上で広まっています。
そのような状況下で、OpenAIは、ユーザーがAI生成画像の出所を確認するのを支援するための無料のAI画像認証ツールを発表しました。
OpenAIは、Googleと協力して、同社のAI製品で生成されたすべての画像に、目に見えない著作権マークSynthIDテクノロジーを統合しました。
同時に、同社は、ユーザーが画像をアップロードして、その画像がAIによって作成されたかどうかを確認できる公開検証ツールも導入しました。
OpenAIの新しいツールは、SyntIDとC2PAオープン規格の2つの信号レイヤーに基づいて動作します。
その中で、C2PAは画像のメタデータ部分に直接識別データを追加し、SyntIDは画像に埋め込まれた目に見えない著作権マークとして機能します。
OpenAIによると、2つの技術の組み合わせは、コンテンツの出所認証の信頼性を高めるのに役立ちます。
OpenAIは、「著作権マークはスクリーンショットなどの多くの変換プロセスを介して存在する可能性があり、メタデータはより詳細な情報を提供します。2つの結合レイヤーは、単一の方法を使用するよりも信頼性の高い認証を支援します」と述べています。
現在、このツールは主に、ChatGPT、OpenAIのAPI、CodexなどのOpenAIプラットフォームによって生成された画像の検出をサポートしています。ただし、同社は将来的に他のAIツールとの互換性を拡張することを検討していると述べています。
OpenAIの動きは、AIによる画像作成技術がますます洗練され、広く普及している状況下で行われています。わずか数回の簡単な操作で、ユーザーは本物そっくりの画像を作成でき、本物の写真と偽物の写真の区別がこれまで以上に困難になっています。
それにもかかわらず、多くの専門家は、現在の対策は、特に信頼性の低いAIツールから作成されたコンテンツや、認証メカニズムを意図的に回避するコンテンツなど、ディープフェイクを完全に阻止するにはまだ不十分であると考えています。
新しい検証ツールを使用するには、ユーザーはPNG、JPG、またはWEBP形式で画像をアップロードするだけです。システムは、画像にC2PA信号、SynthIDマークが含まれているかどうかを分析して通知します。
OpenAIは、精度を高めるために、画像のメインコンテンツをカットし、画像を多く含むファイルのアップロードを避けることを推奨しています。
しかし、OpenAI自身のImages 2.0モデルで作成された画像をテストする過程で、システムは「OpenAIのツールで作成されたコンテンツを示す証拠は見つからなかった」と回答しました。これは、AI認証技術に依然として一定の限界があることを示しています。
