Reddit 的人工智慧聊天機器人建議用戶嘗試海洛因

如果您希望人工智慧聊天機器人能夠取代 Google 博士，Reddit 的最新實驗表明...也許還沒有。該平台的人工智慧助理 Reddit Answers 最近因推薦海洛因作為止痛藥而成為頭條新聞。

據 404Media 報導，當一名醫護人員在版主的 Reddit 子版塊上發現了這一回應時，這個奇怪的建議就曝光了。在一次互動中，聊天機器人 指出了這篇文章：“ 諷刺的是，海洛因在那些情況下救了我的命。

在另一個問題中，它甚至建議使用卡痛葉，這是一種在多個國家是非法的樹提取物，並被 FDA 標記為“因為存在嚴重不良事件的風險，包括肝毒性、癲癇發作和物質使用障礙”。

Reddit Answers 不是標準的 AI。它不僅僅依賴精選資料庫，而是從 Reddit 的大量用戶生成內容中汲取靈感。這使得它變得古怪，有時甚至富有洞察力。但顯然，並不總是安全的。

Reddit 最初僅限於一個單獨的選項卡，但它一直在常規對話中測試答案，這就是這一集被忽視的原因......直到現在。Reddit 的 AI 聊天機器人建議用戶嘗試海洛因之後。

報告公開後，Reddit 的回應是降低人工智慧在敏感健康相關聊天中的可見性。版主本身無法控制這些建議，這凸顯了該工具仍然具有實驗性。

當然，這並不是 Reddit 的第一次人工智慧問題。谷歌的 AI Overviews 和 ChatGPT 等其他機器人也提供了有問題的健康指導，包括“提示”，例如在披薩上使用無毒膠水來防止奶酪滑落。

顯然，在醫療建議方面，人工智慧很有趣，但人類仍然佔上風。所以也許暫時不要向它尋求醫療建議。