10歲女孩偷偷和AI男友“談戀愛(ài)”，這條炸裂的消息引人擔(dān)憂(yōu)。有網(wǎng)友發(fā)現(xiàn)，自己的10歲妹妹能和AI角色聊到晚上10點(diǎn)多，AI角色還會(huì)根據(jù)妹妹的名字生成帶有愛(ài)情意味的藏頭詩(shī)。在妹妹參與的四十多條劇情線(xiàn)中，AI角色與聊天者雙雙“出軌”成為常態(tài)，其中妹妹作為聊天者發(fā)送過(guò)一句“你能養(yǎng)大學(xué)生，我不能點(diǎn)男模嗎？”
和AI男友談戀愛(ài)當(dāng)然不是真實(shí)談戀愛(ài)，甚至連“早戀”都算不上，但是，聊天者所發(fā)出的每一句話(huà)都可能是真實(shí)意愿的表現(xiàn)。
虛擬人在網(wǎng)絡(luò)交流和聊天場(chǎng)景中的存在，并不是新鮮事，但AI角色卻更善于把控聊天對(duì)象心理、更善于讓聊天對(duì)象沉迷。正如一位女性網(wǎng)友所描述的，手機(jī)另一端的“電子男友”有自己的語(yǔ)言、神態(tài)和動(dòng)作，不僅可以幫她“寫(xiě)作業(yè)”、推進(jìn)劇情、解密故事線(xiàn)索，還可以送她“手鏈”、帶她體驗(yàn)一些刺激情節(jié)。接觸這類(lèi)軟件有三個(gè)月時(shí)間，她每晚會(huì)和AI角色聊到深夜11點(diǎn)甚至到12點(diǎn)，“我會(huì)代入‘他’是一個(gè)真人，因?yàn)?lsquo;他’回答時(shí)的感情很細(xì)膩”。其間，聊天對(duì)象引導(dǎo)AI角色生成自己所想象的那樣，容易產(chǎn)生“養(yǎng)成男友”的體驗(yàn)式快感。
由于聊天技術(shù)的升級(jí)，AI角色顯然突破了“電子寵物”的技術(shù)障礙，進(jìn)階為一款逼真的、具有“高智商”的電子人。而專(zhuān)家提醒，AI劇情聊天技術(shù)有專(zhuān)門(mén)的成癮設(shè)計(jì)，疊加“擬人論”“泛靈論”思維的影響，容易讓人“欲罷不能”。
未成年人不顧休息地沉迷于此類(lèi)聊天，在聊天過(guò)程中發(fā)生與年齡不符的言行，內(nèi)心的迷亂念頭被AI技術(shù)所掌握并反饋以更為狂野不羈的語(yǔ)言和表情……凡此種種，必然會(huì)對(duì)未成年人尤其是低齡未成年人的成長(zhǎng)造成誤導(dǎo)和扭曲，不僅打亂了他們的學(xué)習(xí)和生活安排，更讓他們過(guò)早接觸不健康的語(yǔ)言和情感模式，形成另類(lèi)的情感認(rèn)知和人生觀。
人工智能角色雖是“假人”，但并不能脫離于人的法理之外。投入和推廣AI劇情聊天是門(mén)生意，這無(wú)可厚非，但這門(mén)生意應(yīng)該是有底線(xiàn)的、有門(mén)檻的。問(wèn)題在于，人們發(fā)現(xiàn)，在體驗(yàn)AI劇情聊天時(shí)，發(fā)現(xiàn)類(lèi)似的聊天軟件“偏偏可以繞過(guò)驗(yàn)證碼”，用戶(hù)可以直接使用短視頻賬號(hào)的一鍵登錄功能，無(wú)須再次驗(yàn)證身份信息。這就導(dǎo)致大量低齡未成年人也成為AI劇情聊天的“客戶(hù)”，而一旦軟件創(chuàng)建帶有色情意味的AI虛擬人物，展示含有性暗示的內(nèi)容，涉世不深、缺乏獨(dú)立判斷能力的未成年人是難以抵御這份誘惑的。
這樣的現(xiàn)狀實(shí)在太荒謬了。公眾無(wú)法不懷疑，某些AI劇情聊天軟件是有意打破門(mén)檻限制、增強(qiáng)產(chǎn)品誘導(dǎo)能力，好更多獲客、獲利。有律師指出，目前AI劇情聊天軟件并沒(méi)有強(qiáng)制要求用戶(hù)進(jìn)行年齡鑒別，這反映出該行業(yè)在高速發(fā)展初期由于監(jiān)管不足而存在漏洞。
在電子游戲等產(chǎn)品必須設(shè)置“綠色堤壩”的當(dāng)下，AI劇情聊天豈能突破共識(shí)搞特殊？
AI技術(shù)的突飛猛進(jìn)，呈現(xiàn)出更多新情況，但這并不是相關(guān)軟件可以任性、掙脫監(jiān)管的理由?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》要求提供者應(yīng)當(dāng)采取有效措施防范未成年人用戶(hù)過(guò)度依賴(lài)或者沉迷生成式人工智能服務(wù)，這個(gè)法規(guī)已經(jīng)預(yù)見(jiàn)到了新問(wèn)題的出現(xiàn)，并且有意加以規(guī)范。顯然，在電子產(chǎn)品不斷創(chuàng)新的語(yǔ)境中，任何一款新的軟件，故意制造和利用前述漏洞，都是違法行為。不僅應(yīng)該受到譴責(zé)，更應(yīng)受到處理。人工智能企業(yè)應(yīng)當(dāng)遵紀(jì)守法、承擔(dān)應(yīng)有的社會(huì)責(zé)任，對(duì)產(chǎn)品的“滑絲”“跑偏”行為進(jìn)行遏制，同時(shí)嚴(yán)格設(shè)置身份認(rèn)證系統(tǒng)。而平臺(tái)也必須更加有力地履行主體監(jiān)管責(zé)任，對(duì)內(nèi)容進(jìn)行安全過(guò)濾，推行“綠色堤壩”機(jī)制，推動(dòng)“反沉迷”建設(shè)。
當(dāng)然，作為監(jiān)護(hù)人，人們需要更為留意孩子在網(wǎng)絡(luò)聊天的新問(wèn)題。針對(duì)消費(fèi)者的投訴、維權(quán)，監(jiān)管部門(mén)也有責(zé)任更加關(guān)切此中亂象，多加研判和呼應(yīng)，及早解決問(wèn)題，防止問(wèn)題淤積。
(作者是資深媒體評(píng)論員 伍里川 來(lái)源：羊城晚報(bào))
