OpenAIは米国時間10月5日、欧州連合（EU）のAI法への対応として、EU域内の「ChatGPT」と「Codex」が生成する対象テキストに、目に見えない電子透かしを加えると発表した。今後数週間で全プランの対象ユーザーへ導入する。APIでは同日より、全世界のユーザーが一部モデルで透かしを選べるが、デフォルト設定はオフとなる。
「textGrain」という技術によって、モデルが単語を選ぶ際に統計的な信号を埋め込み、専用検出ツールでOpenAI由来の可能性を判定する。OpenAIは技術をオープンソース化する計画も示した。EUのAI法は、生成AI事業者に対し、生成テキストを識別できるようにすることを求めている。
検出ツールの利用は当初、承認された研究者と専門機関に限る。OpenAIの評価では、誤検出率を1％に設定した場合、心理学分野の200トークンの文章で約80％、400トークンで約95％の透かしを検出できた。一方、400トークンの文章で単語の10％を同義語に置き換えると、検出率は約92％から66％へ低下し、25％の置換では17％まで下がった。
透かしは、文章の所有者や利用責任、内容の正確性、利用者の身元を示すものではない。短文や編集、翻訳によって信号が弱まるため、透かしが見つからなくても人間が書いたとは断定できない。OpenAIは、現時点では世界共通のデフォルト設定にせず、EUでの運用と研究者による検証を通じて技術を改善するとしている。
Amazonで開催中のセールを見る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています。