美國(guó)加州擬出新法案要求AI公司提醒兒童：聊天機(jī)器人不是人類

　　多知2月6日消息，近日，美國(guó)加利福尼亞州參議員Steve Padilla提出的一項(xiàng)新法案要求AI公司定期提醒兒童，聊天機(jī)器人是 AI 而非真實(shí)的人類。

　　據(jù)介紹，這項(xiàng)法案旨在保護(hù)兒童免遭AI“容易使人上癮、造成孤立和誤導(dǎo)”等危害。該法案將制定的要求還包括：禁止AI公司“向用戶提供獎(jiǎng)勵(lì)”以提升參與度;要求AI公司向州衛(wèi)生保健服務(wù)部報(bào)告說(shuō)明平臺(tái)檢測(cè)到的未成年人出現(xiàn)自殺意念跡象的頻率，該法案還要求公司告知用戶，他們的聊天機(jī)器人可能并不適合部分兒童使用。

　　劍橋大學(xué)的研究表明，與成年人相比，兒童更有可能將聊天機(jī)器人視為值得信賴的，甚至將其視為準(zhǔn)人類。當(dāng)兒童與聊天機(jī)器人之間的對(duì)話出現(xiàn)問(wèn)題時(shí)，可能會(huì)危及兒童的安全。一個(gè)例子是，就在2024年10月，《紐約時(shí)報(bào)》的一篇報(bào)道顯示，一名青少年在與Character.ai的聊天機(jī)器人深度對(duì)話數(shù)月之后選擇自殺，逝者母親隨后向Character.ai發(fā)起了法律訴訟。

　　Steve Padilla表示： “孩子們不是科技公司以犧牲心理健康為代價(jià)進(jìn)行實(shí)驗(yàn)的小白鼠。我們需要為聊天機(jī)器人的用戶提供常識(shí)性保護(hù)，以防止開發(fā)人員采取那些令人上癮的策略。”