編集部
Microsoftは、OpenAIの最新のテキストから画像へのモデルであるDALL-E 3を、Bing Image CreatorおよびChatサービスに統合した。この新しいモデルは、画像の全体的な品質や詳細の向上、人間の手や顔、画像内のテキストの精度の向上など、多くの強化が施されている。
しかし、このような生成AIツールがディスインフォメーションや偽造画像の作成に利用されるリスクについて、専門家からは長らく警告がなされている。
Bing Image CreatorとChatサービスにDALL-E 3を導入
Microsoftは最近、OpenAIの最新のテキストから画像へのモデル、DALL-E 3をBing Image CreatorおよびChatサービスに統合した。この統合により、ユーザーはBing ChatやImage Creator機能を通じて、テキストを基にした画像の生成を無料で試すことができるようになった。
DALL-E 3モデルは、画像の全体的な品質や詳細の向上を実現しており、特に人間の手や顔、画像内のテキストの精度が大幅に向上している。Microsoftの発表によれば、このモデルはOpenAIによるもので、画像の全体的な品質や詳細、さらには人間の手や顔、画像内のテキストの精度の向上を実現しているとのことだ。このような進化により、ユーザーはよりリアルで高品質な画像を生成することが可能となり、多くのクリエイティブな活用が期待される。
AI生成コンテンツの透かし技術とその課題
AI技術の進化に伴い、偽造画像やディスインフォメーションのリスクが増大している。この問題に対処するため、Microsoftは先月、Amazon、Anthropic、Google、Inflection、Meta、OpenAIなどの主要なAI開発者と共同で、AI生成コンテンツを検出・ラベル付けする透かし技術の開発に取り組んでいる。
この取り組みの成果はまだ明らかにされていないが、Bing Image Creatorで生成されるすべてのAI生成画像には、C2PA仕様に従った透かしを追加するとMicrosoftは述べている。C2PAは、Adobe、Arm、Intel、Microsoft、Truepicによって設立されたコンテンツの出所を検証するための技術的枠組みだ。
しかし、一部の研究者は、透かし技術がディスインフォメーションやディープフェイクといった問題に対して十分に効果的であるとは考えていない。透かし技術の限界とその対策についての議論は、今後も続くことが予想される。
DALL-E 3の進化とChatGPTの活用
DALL-E 3は、過去のモデルと比較して、ユーザーの入力プロンプトを解析し、その要望を反映した画像を生成する能力が向上している。このモデルの特徴の一つとして、ChatGPTを使用してユーザーのプロンプトを自動的に調整・微調整し、より高品質な画像を生成する点が挙げられる。
この結果、ユーザーは自分の意図した通りの画像を簡単に、そして迅速に取得することができる。また、DALL-E 3は、入力プロンプトの解析能力が向上しており、ユーザーの要望をより正確に理解し、それを反映した画像を生成することが可能となっている。
Microsoftのテキストから画像への技術とその課題対応
テキストから画像への技術は、その可能性とともに多くの課題を持っている。Microsoftは、この技術が持つ課題に対応するため、大規模なチームを動員して取り組んでいる。特に、不適切な画像や誤情報の生成を防ぐためのコンテンツモデレーションシステムをBingに導入している。
このシステムは、DALL-E 3が不適切な画像や暴力、ヘイトスピーチ、違法行為を描写する画像を生成するのを防ぐことを目的としている。また、Microsoftは、ユーザーが悪意を持ってシステムを騙す試みにも対応しており、疑わしいウェブサイトのブロックや、これらのプロンプトをモデルに到達する前に識別・フィルタリングするシステムの継続的な改善に努めている。
AIの進化: パンドラの箱を開けたか？
テキストから画像への変換技術の進化は、まるでパンドラの箱を開けたかのような興奮とともに、多くの課題をもたらしている。DALL-E 3のような先進的なモデルは、夢のようなクリエイティブな可能性を持っている一方で、偽情報や誤解を生むリスクも孕んでいる。
この技術の進化は、まるで未知の大海に船を進めるかのようだ。その海は美しい風景や新しい発見を約束しているが、同時に未知の危険や嵐も潜んでいる。MicrosoftとOpenAIは、この大海を航海する船の船長として、新しい技術の可能性を追求しつつ、そのリスクを最小限に抑えるための羅針盤を持っているのだろうか？
透かし技術やコンテンツモデレーションシステムの導入は、嵐を乗り越えるための一つの方法として提案されている。しかし、これらの技術が本当に効果的であるかどうかは、まだ未知数だ。技術の進化は止められないが、それをどのように活用し、どのようにリスクを管理するかは、今後の課題となるだろう。