OpenAI、精度が低いためAI検出ツールAI Classifierを停止

7月25日のDecryptレポートによると、OpenAIは今年1月、コンテンツが生成AIツールを使用して作成されたかどうかを検出するために使用できるAI検出ツールAI Classifierをリリースした。しかし先週、OpenAIは「精度が低い」ことを理由に、この検出ツールを静かに閉鎖した。この説明は新しい発表には記載されていませんでしたが、このツールを最初に発表したブログ投稿のメモに追加されました。現在、AI Classifier へのリンクは利用できなくなりました。

OpenAIは「精度率が低いため、AI分類器は2023年7月20日をもって利用できなくなった。私たちはフィードバックを取り入れることに懸命に取り組んでおり、現在、より効果的なテキスト来歴技術を研究しており、ユーザーが音声コンテンツまたはビデオコンテンツが人工知能によって生成されたものであるかどうかを理解できるようにするメカニズムの開発と導入に取り組んでいる。」 OpenAIは、AI分類器の限界として、1,000文字未満のテキストでは信頼性が低いこと、人間が書いたテキストをAI作者として誤ってラベル付けすることなどが挙げられると述べた。テキストおよびニューラル ネットワーク ベースの分類器は、トレーニング データの外ではパフォーマンスが低下します。