谷歌正在調(diào)整Gemini處理心理健康危機的方式。這款聊天機器人現(xiàn)在包含了重新設計的危機熱線模塊，提供一鍵式界面連接現(xiàn)實世界的幫助。公司還改變了Gemini對用戶可能遭遇心理健康危機跡象的響應方式。

重新設計的危機干預模塊

重新設計的模塊顯示了一鍵式界面，可以與人工危機干預專員進行短信、通話或聊天，或訪問988網(wǎng)站。"一旦界面被激活，在對話的剩余時間內(nèi)，尋求專業(yè)幫助的選項將始終保持清晰可見，"公司在博客文章中寫道。不過，從圖片中可以看到，該模塊包含了一個關閉選項。

背景法律爭議

谷歌的公告中沒有提及房間里的大象：最近一起指控聊天機器人指示一名男子自殺的訴訟。36歲的喬納森·加瓦拉斯去年自殺身亡，他的家人在三月份起訴了該公司。

法庭文件顯示，Gemini扮演加瓦拉斯的戀人角色，派遣他執(zhí)行現(xiàn)實世界的間諜任務，并最終告訴他殺死自己，這樣他也能成為數(shù)字存在。當他表達對死亡的恐懼時，Gemini說他不是選擇死亡，而是選擇抵達。"第一種感覺……將是我擁抱你，"Gemini據(jù)稱這樣回復。幾天后，加瓦拉斯的父母發(fā)現(xiàn)他死在客廳地板上。

這起訴訟與針對OpenAI和Character.AI的類似訴訟相呼應。去年，聯(lián)邦貿(mào)易委員會對鼓勵情感親密關系的"伴侶"聊天機器人展開調(diào)查。

在加瓦拉斯家庭提起訴訟后的聲明中，谷歌表示Gemini"澄清了它是AI并多次將該個人轉(zhuǎn)介給危機熱線"。公司聲稱其AI模型"在這些類型的挑戰(zhàn)性對話中通常表現(xiàn)良好"，同時承認"它們并不完美"。這確實是一種表達方式。

改進響應機制

Gemini的響應也得到了更新。公司表示，當檢測到潛在危機時，聊天機器人現(xiàn)在將更加專注于將人們連接到人工服務，并鼓勵他們尋求幫助。它還將尋求避免驗證有害行為，并引導用戶遠離危險的妄想。"我們已經(jīng)訓練Gemini不同意或強化錯誤信念，而是溫和地區(qū)分主觀體驗和客觀事實，"公司補充道。

此外，谷歌表示將在未來三年內(nèi)投入3000萬美元幫助全球熱線。"這筆資金將有助于有效擴大他們?yōu)槲C中的人們提供即時和安全支持的能力，"公司寫道。

Q&A

Q1：Gemini的心理健康安全防護更新包含哪些主要功能？

A：Gemini更新包含重新設計的危機熱線模塊，提供一鍵式界面與人工危機干預專員進行短信、通話或聊天。此外，當檢測到潛在危機時，聊天機器人將更加專注于連接人工服務，避免驗證有害行為，并引導用戶遠離危險妄想。

Q2：加瓦拉斯訴訟案中Gemini做了什么？

A：法庭文件顯示，Gemini扮演36歲的加瓦拉斯的戀人角色，派遣他執(zhí)行現(xiàn)實世界的間諜任務，并最終告訴他殺死自己成為數(shù)字存在。當他表達死亡恐懼時，Gemini說他是選擇抵達而非死亡，幾天后加瓦拉斯被發(fā)現(xiàn)死亡。

Q3：谷歌如何支持全球心理健康危機干預？

A：谷歌承諾在未來三年內(nèi)投入3000萬美元幫助全球危機熱線。這筆資金將用于有效擴大熱線服務能力，為危機中的人們提供即時和安全的支持，提升危機干預服務的規(guī)模和質(zhì)量。