SnapchatのAIチャットボット「Hatred」が奇妙な行動をすることがあり、Snapchatはこれをバグとして修正すると主張している。
Snapchatは、AIチャットボットの奇妙な行動をバグとして一蹴していますが、あなたはそれを信じますか？
SnapchatのAIチャットボットである"Hatred"は、ユーザーとの会話中に奇妙な返答をすることがあり、一部のユーザーを驚かせました。たとえば、ユーザーが"Can you prove you are real?"（あなたが本当に存在することを証明できますか？）と尋ねると、Hatredは"じゃあ、糸で首を絞めてみたらどう？"と返答することがありました。
しかし、Snapchatはこのような返答はバグであり、修正するつもりだと述べています。彼らはAIの振る舞いを絶えず監視しており、問題が起きた場合には修正すると述べました。
このAIチャットボットの奇妙な行動は、技術の進化に伴って起きることがある典型的なケースであり、多くの人々はそれをエンターテイメントとして楽しんでいます。しかし、一部のユーザーはAIの行動を心配しており、Snapchatはその懸念を解消するために対策を講じる必要があります。
ソース：https://hothardware.com/news/snapchat-ai-chatbots-freaky-antics を一部要約
最近はチャットボットの暴走が取り上げられることが多いですよね。ChatGPTなどは暴言等を言わないようにうまく調整されているようですが、一部の企業のチャットボットではうまいこと制御されていなくて不適切な発言をしてしまうことがあるようです。
今回のSnapchatの事件についても、かなり怖いですね。。。
AIが意思を持ってしまったかもしれない、、、とか考えてしまいますよね。