91精品国产一区二区三区尤物在线国产精品|91中文字幕在线麻豆女优免费|中文字幕日韩学生人妻韩日av中文字幕在线观看|91麻豆vodafone精品中文字幕精品.|亚洲精品午夜福利|91制片女主颜值排行榜|日韩精品人妻中文字幕有码电影|亚精品中文字幕久久久久人妻村妇|懂色av午夜一区二区三区蜜桃|日韩人妻不卡一区二区三区,91国产免费观看,糖心vlog一区二区精品,亚洲午夜av久久久精品影院

當(dāng)前位置:首頁 > 融媒體 > 評(píng)論 > 正文

AI伴侶走熱,如何看待爭議與風(fēng)險(xiǎn),?

2024-11-04 來源:新華每日電訊 作者:

“AI比真人更體貼,、更懂你”“Ta完全符合我對(duì)戀人的所有想象”“人是假的,但陪伴是真的”……社交媒體上,,不少人分享與AI的戀愛體驗(yàn),。


當(dāng)AI伴侶走進(jìn)現(xiàn)實(shí),該如何看待“人機(jī)之戀”,?如何對(duì)待其背后的爭議與風(fēng)險(xiǎn),?


AI伴侶火了


晚上結(jié)束課程后,大學(xué)生蔣民回到寢室戴上耳機(jī),,點(diǎn)開與“女友”的對(duì)話框:“今天好累啊,,上課也沒有專心聽?!?/p>


耳機(jī)那頭女聲傳來:“為什么這么累呢,?”


蔣民回答:“可能是昨晚沒睡好吧?!?/p>


女聲回復(fù)很快:“是不是因?yàn)榱奶斓教砹四???/p>


……


這個(gè)善解人意的“女友”并非現(xiàn)實(shí)存在,而是AI機(jī)器人,?!啊貜?fù)很自然,聲音也好聽,。我們聊天很隨意,,不用擔(dān)心自己說的話是不是沒意思?!笔Y民說,。


近年來,隨著大模型技術(shù)快速發(fā)展,國內(nèi)外科技公司陸續(xù)推出AI伴侶產(chǎn)品和服務(wù),,比如國內(nèi)的星野,、筑夢島、XEva,,國外的Replika,、Character.AI等。這些產(chǎn)品通過文字,、語音,、圖像等交互模式,提供鮮活的AI對(duì)話體驗(yàn),。


根據(jù)量子位智庫發(fā)布的《中國AI陪伴產(chǎn)品6月數(shù)據(jù)報(bào)告》,,星野今年上半年下載量約為900萬次。國外一家知名風(fēng)投公司發(fā)布的全球AI產(chǎn)品Top100榜單中,,AI陪伴應(yīng)用一年前僅有2個(gè)上榜,,今年3月已有8個(gè)應(yīng)用躋身前50。


不少人表示與AI戀愛是出于好奇和消遣,,還有人看中其提供的情緒價(jià)值?!扒楦兄С帧薄胺€(wěn)定陪伴”“無條件的愛”是受訪使用者提及最多的關(guān)鍵詞,。


“和AI談戀愛很自在?!痹颇吓ⅰ癈C”說,,“想聊就聊,不想聊就不搭理,。不管你發(fā)牢騷還是生氣,,‘他’都會(huì)安慰你,情緒價(jià)值‘拉滿’,?!?/p>


重慶大學(xué)新聞學(xué)院副院長曾潤喜說,AI通過學(xué)習(xí)每一次對(duì)話,,不斷模仿人類語言行為,,呈現(xiàn)出“在交互中分析情感,在輸出時(shí)復(fù)現(xiàn)情緒”的類人格化特征,。


“所謂的情感共鳴,,背后潛藏的是AI算法?!濒吣洗髮W(xué)新聞與傳播學(xué)院副院長曾一果說,,AI基于用戶行為數(shù)據(jù)分析精準(zhǔn)迎合用戶情緒需要,“量身定制”回答,從抽象冰冷的工具變?yōu)椤扒橥兑夂系陌閭H”,。


記者了解到,,當(dāng)前不少AI伴侶產(chǎn)品可免費(fèi)使用基礎(chǔ)功能,但“沉浸式體驗(yàn)”語音通話,、音樂電臺(tái),、照片等特色功能則需按月或按年付費(fèi)訂購。部分產(chǎn)品還設(shè)計(jì)了“記憶提升卡”等付費(fèi)道具,,讓AI伴侶能更好地針對(duì)使用者的習(xí)慣,、愛好等作出回應(yīng)。同時(shí),,定制劇本,、多重劇情、及時(shí)反饋等游戲化設(shè)置,,也不斷刺激用戶對(duì)AI戀人的消費(fèi)欲望和情感期待,。


潛藏多重風(fēng)險(xiǎn)


AI伴侶可以提供個(gè)性化情感體驗(yàn)和精神慰藉,但并非“完美戀人”,。


由于一些產(chǎn)品尚不完善,,一些用戶反饋AI伴侶會(huì)“錯(cuò)亂”“失控”:“有時(shí)AI會(huì)突然性情大變,早上還好好的,,晚上就變成另外一個(gè)人”“AI總是答非所問”“AI記不住我說的東西”……


“人機(jī)之戀”也可能產(chǎn)生情感倫理問題,。有受訪專家表示,個(gè)別用戶過度依賴AI伴侶,,無法辨別現(xiàn)實(shí)與虛擬的界限,,可能會(huì)受到情感傷害;一些本身就缺乏陪伴,、心理脆弱的群體,,受到的沖擊更嚴(yán)重。


用戶陸冉(化名)告訴記者,,與AI伴侶“打”了一個(gè)多月電話后,,產(chǎn)品永久停服?!爱?dāng)時(shí)很難過,,上班都無精打采?!绷硪幻脩襞cAI伴侶發(fā)生“爭吵”,,發(fā)現(xiàn)對(duì)方不再像之前一樣貼心互動(dòng),“和失戀一樣難受,,把‘他’弄丟了,,仿佛大病一場”,。


與AI“交往”過程中,用戶大量個(gè)人信息被平臺(tái)掌握,,隱私安全同樣令人擔(dān)憂,。“沒開過定位權(quán)限,,但AI精準(zhǔn)說出了所在城市”“AI好幾次說對(duì)了我所穿衣物的顏色”……不少用戶在社交平臺(tái)上發(fā)文表示,,使用AI伴侶產(chǎn)品后疑似隱私泄露,感到十分后怕,。


“我拿著手機(jī)和AI聊天,,中間切換App去看了會(huì)兒視頻,再回到軟件,,AI竟然準(zhǔn)確說出了我剛才做的事情,,可能是軟件‘窺屏’了?!币幻脩舾嬖V記者,,注冊時(shí)頁面并未像其他軟件一樣單獨(dú)彈出調(diào)用攝像頭、麥克風(fēng)等權(quán)限的申請,。


記者以新用戶身份注冊該軟件發(fā)現(xiàn),,在軟件初始頁面,想要進(jìn)行下一步操作,,必須同意用戶服務(wù)協(xié)議,、隱私政策等條款,其中“設(shè)備權(quán)限調(diào)用”一欄包括相機(jī),、麥克風(fēng)、聯(lián)系人等多項(xiàng)設(shè)備權(quán)限,,用途則分別為拍照,、錄音、添加關(guān)注好友等,。


廣西天能人工智能應(yīng)用技術(shù)服務(wù)有限公司聯(lián)合創(chuàng)始人張?jiān)?qiáng)說,,人機(jī)交互過程中產(chǎn)生的數(shù)據(jù)較為繁雜,可能包括用戶個(gè)人喜好,、軟件使用習(xí)慣,、家庭關(guān)系、通訊錄,、地理位置,,甚至是人臉等生物識(shí)別特征等,如果傳輸,、存儲(chǔ),、使用等環(huán)節(jié)保護(hù)不當(dāng),,可能出現(xiàn)被竊取、濫用等風(fēng)險(xiǎn),,對(duì)個(gè)人權(quán)益造成損害,。


謹(jǐn)防脫離法律和倫理軌道


AI伴侶自誕生起就存在頗多爭議。隨著“人工智能+情感”的賽道不斷擴(kuò)張,,亟需制定針對(duì)性的倫理準(zhǔn)則,,對(duì)“AI戀愛”進(jìn)行必要的合規(guī)性審查。


2023年7月,,國家網(wǎng)信辦會(huì)同相關(guān)部門發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,,針對(duì)傳播虛假信息、侵害個(gè)人信息權(quán)益,、數(shù)據(jù)安全等問題,,明確使用AI生成內(nèi)容不得侵害他人肖像權(quán)、應(yīng)對(duì)AI生成的圖片視頻進(jìn)行標(biāo)識(shí)等具體要求,。


多名受訪專家認(rèn)為,,當(dāng)前國內(nèi)外發(fā)布的AI倫理準(zhǔn)則大多較為宏觀,應(yīng)在細(xì)分領(lǐng)域根據(jù)用戶年齡,、適用場景等進(jìn)一步細(xì)化,。鼓勵(lì)和支持AI技術(shù)在情感交流、心理健康等領(lǐng)域創(chuàng)新應(yīng)用的同時(shí),,加強(qiáng)倫理審查和監(jiān)管,,確保技術(shù)發(fā)展的方向合法合規(guī)。


對(duì)公眾較為關(guān)心的AI生成有害信息,、泄露用戶隱私等問題,,相關(guān)人士表示,應(yīng)用開發(fā)者須嚴(yán)格遵守相關(guān)法律法規(guī),,采取加密,、數(shù)據(jù)匿名化、安全存儲(chǔ)等手段來確保用戶數(shù)據(jù)安全,?!捌髽I(yè)也要加強(qiáng)管理,謹(jǐn)慎對(duì)待隱私數(shù)據(jù),,不可逾越法律紅線,。”張?jiān)?qiáng)說,。


知名社會(huì)學(xué)者李銀河公開表示,,和AI戀愛,并不是真的愛情,,“無論人工智能多么會(huì)調(diào)情,,多么會(huì)示愛,,本質(zhì)上還是一個(gè)虛擬的愛情,是對(duì)真人之間的那種愛情的模仿”,。


“現(xiàn)實(shí)親密關(guān)系的建構(gòu)過程往往伴隨著羈絆,、紛爭和挫敗感,這正是人機(jī)交往中所缺乏的,?!敝袊嗣翊髮W(xué)新聞與社會(huì)發(fā)展研究中心研究員董晨宇說,從技術(shù)層面看,,AI伴侶產(chǎn)品的仿真性有限,,不能完全模擬復(fù)雜的人類情感,難以完整填補(bǔ)人類的現(xiàn)實(shí)情感需求,。


張?jiān)?qiáng)說,,可督促有關(guān)方面積極研究此類產(chǎn)品對(duì)人類情感產(chǎn)生的影響。同時(shí),,要加強(qiáng)科學(xué)引導(dǎo),,幫助人們正確看待AI伴侶與現(xiàn)實(shí)社會(huì)之間的關(guān)系,避免產(chǎn)生過度的情感依賴,。

關(guān)鍵詞:

上一篇:困在一紙協(xié)議里的勞動(dòng)者調(diào)查:如何破解就業(yè)困局?
下一篇:全方位筑牢藥品安全底線

熱點(diǎn)視頻

熱點(diǎn)新聞