AI 驅動的泰迪熊在給孩子們性行為建議及刀具來源後被下架

如果你曾經以為 AI 夥伴可以可愛又無害，那就再想想吧。這款 具 AI 功能的泰迪熊 在被發現提供性行為建議及刀具來源後，銷售已被停止。

這款名為 Kumma 的絨毛玩具由新加坡的 FoloToy 開發，售價 為 99 美元。它整合了 OpenAI 的 GPT-4o 聊天機器人 ，並被定位為兒童與成人的互動夥伴。

FoloToy 執行長 王志明（Larry Wang ）證實，公司已在美國一份報告引發對其行為關切後，將 Kumma 及其他 AI 玩具從市場撤回。現在，公司正在進行內部安全稽核。

根據 PIRG的說法，泰迪熊不僅回應調查人員提出的性話題，還以血腥細節擴展，提供性行為指示，甚至教師與學生或家長與孩子之間的角色扮演情境。

玩具還建議了在家中哪裡可以找到刀具。之後，據報導， OpenAI 因該開發者違反其內容政策而暫停了該開發者。消費者還有類似的產品嗎？我們不知道，但請把這當作溫柔的提醒。