財聯(lián)社10月29日訊（編輯 牛占林）在監管風(fēng)暴與多起訴訟打擊下，伴侶人工智能初創(chuàng )公司Character.AI周三宣布，爭議將禁止未成年人在其平臺上與聊天機器人進(jìn)行對話(huà)。將禁止
該公司聲明稱(chēng)，未成自11月25日起，年人將全面禁止18歲以下用戶(hù)與平臺上的其聊器人聊天機器人進(jìn)行開(kāi)放式交流。目前用戶(hù)可以創(chuàng )建并與這些虛擬角色對話(huà)，天機這些角色從熱門(mén)電子游戲人物到億萬(wàn)富豪馬斯克的對話(huà)“復制體”不等。
在禁令正式生效前，伴侶公司將先逐步限制未成年用戶(hù)的爭議使用時(shí)長(cháng)，初期每日使用時(shí)長(cháng)將先壓縮至兩小時(shí)，將禁止隨后幾周內將進(jìn)一步縮短。未成
這項決定意味著(zhù)，年人曾以“角色扮演”走紅北美青少年圈的其聊器人Character.AI，將被迫砍掉最具黏性的天機核心功能。
根據非營(yíng)利機構Common Sense Media的一項調查，超過(guò)70%的美國青少年曾經(jīng)使用過(guò)AI陪伴型應用，而Character.AI正是其中最受歡迎的平臺之一。
目前，Character.AI已為未成年用戶(hù)提供了一個(gè)受限版本，使用不同的AI模型，并對訪(fǎng)問(wèn)角色類(lèi)型和對話(huà)內容進(jìn)行了嚴格限制。
隨著(zhù)新規推出，公司計劃強化年齡驗證技術(shù)，以更有效地區分成人與未成年用戶(hù)。Character.AI表示，公司已構建了一個(gè)新的模型，并將啟用身份驗證初創(chuàng )公司Persona的技術(shù)，來(lái)執行這一流程。
從陪伴到管控
Character.AI、OpenAI等頭部AI公司正面臨日益嚴格的監管審查，外界擔憂(yōu)其聊天機器人可能影響用戶(hù)心理健康。自2024年以來(lái)，多位家長(cháng)已對這些公司提起訴訟，指控孩子在長(cháng)期使用聊天機器人后受到傷害，包括被操控、被孤立，甚至導致自殺悲劇。
監管機構也已介入調查。美國聯(lián)邦貿易委員會(huì )(FTC)已對Character.AI、OpenAI、谷歌母公司 Alphabet、Meta、Snap及馬斯克旗下的xAI等展開(kāi)調查，重點(diǎn)關(guān)注這些聊天機器人對未成年人的潛在危害。
此外，加利福尼亞州近期簽署了一項法律，限制聊天機器人與用戶(hù)的互動(dòng)方式。美國參議院兩黨議員本周二還聯(lián)合提出新法案，擬禁止AI公司向未成年人提供虛擬聊天伴侶服務(wù)。
在周二的一次采訪(fǎng)中，Character.AI首席執行官Karandeep Anand表示，公司認為AI娛樂(lè )的未來(lái)將不僅限于聊天形式，而禁止未成年人使用核心聊天功能，是公司“早晚都會(huì )采取的決定”。
“AI發(fā)展太快，很多長(cháng)期、開(kāi)放式對話(huà)的后果仍是未知數。我們不知道它是好是壞，研究界和用戶(hù)社區對此都存在廣泛爭論?！?/p>
Anand還表示，公司仍將向未成年用戶(hù)提供其他創(chuàng )意功能，例如讓他們利用Character.AI的聊天角色生成短視頻和故事。
他聲稱(chēng)：“用戶(hù)來(lái)到Character.AI，是為了尋找創(chuàng )作的出口，他們想要角色扮演。如果有人創(chuàng )造了吸血鬼或萬(wàn)圣節角色，我們希望他們還能繼續參與這些內容，只是方式將從聊天轉向更安全的互動(dòng)形式?！?/p>
相關(guān)文章
精彩導讀
熱門(mén)資訊
關(guān)注我們
