マイクロソフトが支援する人工知能スタートアップのOpenAIは、Dall-E 3の「テキストから画像」ジェネレーターが生成した画像を検出できるツールを公開すると発表しました。現在、人々は、今年の世界的な選挙で人工知能が生成するコンテンツが悪影響を及ぼすことを心配しています。
OpenAIによると、内部テストでは、Dall-E 3によって作成された画像を約98％の正確性で認識でき、圧縮、トリミング、飽和度変更などの一般的な変更を扱えるツールです。
OpenAIは、防犯用の透かしの追加も計画しており、写真や音声などのデジタルコンテンツにマークをつけ、削除するのが難しいとしています。
OpenAIは、Google、Microsoft、Adobeなどを含む業界団体に参加し、さまざまなメディアソースを追跡するための標準を提供することを計画しています。この取り組みの一環として、不適切な影響を与えることができるAI生成のコンテンツについて透明性が確保されるよう努めています。
今年4月、インドの選挙期間中、2人のボリウッド俳優が、インドの総理大臣モディを批判する虚偽のビデオがオンラインで拡散されたことに対して非難しました。また、米国、パキスタン、インドネシアなどのインド以外の地域でも、AI生成のコンテンツやディープフェイクが広く拡散され、ますます選挙で使用されるようになっています。
今日、OpenAIとMicrosoftは、200万ドルの社会的なレジリエンス基金（Societal Resilience Fund）を開始すると発表しました。この基金は、AI教育と啓蒙に取り組むことで、選挙参加者や弱者コミュニティを支援することを目的としています。
世界中で約20億人が民主的な選挙に参加する予定であり、日々複雑化するデジタルエコシステムを扱い、信頼できる情報源を見つけるのに役立つツールや情報が必要とされることは、これまで以上に重要なことです。OpenAIとMicrosoftは、このような状況を踏まえて、人々が選挙システムに参加するための支援を提供するために、慈善基金の設立に取り組んでいます。