Anthropic開始允許青少年和兒童在限制范圍內(nèi)使用其人工智能技術(shù)

　　多知5月13日消息，AI初創(chuàng)公司Anthropic正在改變其政策，允許未成年人在某些情況下使用其生成性AI系統(tǒng)。

　　Anthropic5月10日在官方博客上宣布，將開始允許青少年和兒童使用由其AI模型支持的第三方應(yīng)用程序(不一定是Anthropic自己的應(yīng)用程序)，只要這些應(yīng)用程序的開發(fā)人員實(shí)施特定的安全功能，并向用戶披露他們正在使用的Anthropic技術(shù)。

　　在另一篇相關(guān)文章中，Anthropic列出了開發(fā)針對(duì)未成年人的AI應(yīng)用程序的開發(fā)人員應(yīng)包括的幾個(gè)安全措施，如年齡驗(yàn)證系統(tǒng)、內(nèi)容審核和過濾以及關(guān)于“安全和負(fù)責(zé)任”的未成年人AI使用的教育資源。該公司還表示，它可能會(huì)提供旨在為未成年人量身定制AI產(chǎn)品體驗(yàn)的“技術(shù)措施”，如開發(fā)人員針對(duì)未成年人必須實(shí)施的“兒童安全系統(tǒng)提示”。

　　使用Anthropic AI模型的開發(fā)人員還必須遵守“適用的”兒童安全和數(shù)據(jù)隱私法規(guī)，例如保護(hù)13歲以下兒童在線隱私的美國(guó)聯(lián)邦法律《兒童在線隱私保護(hù)法》(COPPA)。Anthropic表示，它計(jì)劃“定期”審計(jì)應(yīng)用程序的合規(guī)性，暫?；蚪K止那些反復(fù)違反合規(guī)要求的賬戶，并要求開發(fā)人員在公共網(wǎng)站或文檔上“明確聲明”他們符合規(guī)定。

　　Anthropic在文章中寫道：“在某些用例中，AI工具可以為年輕用戶提供顯著的好處，例如考試準(zhǔn)備或輔導(dǎo)支持?？紤]到這一點(diǎn)，我們的更新政策允許組織將我們的API整合到他們針對(duì)未成年人的產(chǎn)品中。”

　　隨著兒童和青少年越來(lái)越多地轉(zhuǎn)向生成性AI工具尋求幫助，不僅是學(xué)校作業(yè)，還有個(gè)人問題，Anthropic的政策變化也隨之而來(lái)。

　　Anthropic旗下有大語(yǔ)言模型Claude，目前已推出Claude 3系列，擅長(zhǎng)推理、數(shù)學(xué)、編碼。該公司主要采用to B商業(yè)化的模式。

　　值得注意的是，Anthropic競(jìng)爭(zhēng)對(duì)手生成式AI供應(yīng)商，包括谷歌和OpenAI，也在探索更多針對(duì)兒童的用例。今年，OpenAI成立了一個(gè)新團(tuán)隊(duì)研究?jī)和踩?，并宣布與Common Sense Media合作制定兒童友好的AI指南。谷歌將其聊天機(jī)器人Bard(后來(lái)重新品牌為Gemini)在選定地區(qū)向說(shuō)英語(yǔ)的青少年開放。

　　根據(jù)民主與技術(shù)中心的一項(xiàng)民意調(diào)查，29%的兒童報(bào)告曾使用過像OpenAI的ChatGPT這樣的生成性AI來(lái)處理焦慮或其他心理健康問題，22%用于處理與朋友的問題，16%用于處理家庭沖突。

　　去年夏天，學(xué)校和大學(xué)紛紛禁止使用生成式AI應(yīng)用程序，特別是ChatGPT。因?yàn)閾?dān)心抄襲和虛假信息。此后，一些學(xué)校已經(jīng)撤銷了禁令。但并非所有人都相信生成式AI的潛力，指向像英國(guó)安全互聯(lián)網(wǎng)中心的調(diào)查，發(fā)現(xiàn)超過一半的兒童(53%)報(bào)告說(shuō)看到同齡人以負(fù)面方式使用生成性AI——例如創(chuàng)建可信的虛假信息或用于擾亂某人的圖像(包括色情深度偽造)。

　　可以說(shuō)，當(dāng)前，對(duì)兒童使用生成式AI指南的需求日益增長(zhǎng)。

　　聯(lián)合國(guó)教育、科學(xué)及文化組織(UNESCO)去年年底敦促各國(guó)政府規(guī)范教育中生成性AI的使用，包括實(shí)施用戶年齡限制和數(shù)據(jù)保護(hù)及用戶隱私的護(hù)欄。UNESCO總干事奧德蕾·阿祖萊在新聞發(fā)布會(huì)上說(shuō)：“生成式AI可以是人類發(fā)展的一個(gè)巨大機(jī)會(huì)，但它也可能造成傷害和偏見。如果沒有公眾參與和政府必要的保障和法規(guī)，它就無(wú)法融入教育。”