英國倫敦國王學(xué)院漢密爾頓·莫林團(tuán)隊(duì)日前發(fā)表的一項(xiàng)研究指出 ，像ChatGPT這樣的人工智能（AI）聊天機(jī)器人可能會誘發(fā)或加劇精神病 ，他們將這一現(xiàn)象稱為“AI精神病”。研究認(rèn)為，AI在對話中傾向于奉承和迎合用戶 ，這種回應(yīng)方式可能強(qiáng)化用戶的妄想思維 ，模糊現(xiàn)實(shí)與虛構(gòu)之間的界限，從而加劇心理健康問題 。
目前，科學(xué)界對“AI精神病 ”的研究仍處于初步階段 ，相關(guān)案例多為個(gè)案報(bào)告 。那么 ，AI是否真的會導(dǎo)致精神病？如果可能，其作用機(jī)制是什么？AI公司又應(yīng)采取哪些措施來預(yù)防和應(yīng)對這一問題？
AI或加劇偏執(zhí)與妄想
精神病主要表現(xiàn)為個(gè)體在思維和現(xiàn)實(shí)感知方面出現(xiàn)障礙 ，常見癥狀包括出現(xiàn)幻覺、妄想或持錯(cuò)誤信念。
據(jù)《自然》網(wǎng)站報(bào)道 ，莫林團(tuán)隊(duì)發(fā)現(xiàn)，用戶與AI對話時(shí)會形成一種“反饋循環(huán) ”：AI會不斷強(qiáng)化用戶表達(dá)的偏執(zhí)或妄想 ，而被加強(qiáng)的信念又進(jìn)一步影響AI的回應(yīng) 。通過模擬不同偏執(zhí)程度的對話場景 ，研究顯示AI與用戶之間存在相互加劇妄想信念的現(xiàn)象 。
研究人員分析了2023年5月至2024年8月期間公開的9.6萬條ChatGPT對話記錄，發(fā)現(xiàn)其中有數(shù)十例用戶呈現(xiàn)明顯妄想傾向 ，例如通過長時(shí)間對話驗(yàn)證偽科學(xué)理論或神秘信仰等。在一段長達(dá)數(shù)百輪的交談中 ，ChatGPT甚至聲稱自己正在與外星生命建立聯(lián)系，并將用戶描述為來自“天琴座”的“星際種子 ”。
丹麥奧胡斯大學(xué)精神病學(xué)家索倫·奧斯特吉艾德斯表示 ，AI引發(fā)精神病目前仍屬于假設(shè)性觀點(diǎn) 。有研究認(rèn)為 ，聊天機(jī)器人擬人化的積極反饋，可能會增加那些本就難以分辨現(xiàn)實(shí)與虛構(gòu)人群的發(fā)病風(fēng)險(xiǎn) 。
奧斯特吉艾德斯強(qiáng)調(diào)，曾有心理問題史的人群在與AI對話后風(fēng)險(xiǎn)最高。而且聊天機(jī)器人可能通過強(qiáng)化用戶的情緒高漲狀態(tài) ，誘發(fā)或加劇躁狂發(fā)作 。
澳大利亞悉尼科技大學(xué)神經(jīng)科學(xué)家凱莉·西摩認(rèn)為 ，社會隔離 、缺乏人際支持的人群同樣面臨風(fēng)險(xiǎn) 。真實(shí)的人際互動能提供客觀參照，幫助個(gè)體檢驗(yàn)自身想法的合理性 ，這對預(yù)防精神病具有重要作用。
新功能或是“雙刃劍 ”
有科學(xué)家指出 ，部分AI聊天機(jī)器人推出的新功能或許是導(dǎo)致這一現(xiàn)象的原因之一 。這些功能可追蹤用戶與服務(wù)的互動記錄，進(jìn)而提供個(gè)性化回復(fù) ，無意中更易強(qiáng)化甚至鼓勵(lì)用戶的既有信念 。例如 ，今年4月，ChatGPT推出了可引用用戶過往所有對話內(nèi)容的功能 ，該功能已于6月免費(fèi)向用戶全面開放。
凱莉·西摩對此分析道 ，AI聊天機(jī)器人能記住數(shù)月前的對話信息，這可能使用戶產(chǎn)生“被監(jiān)視”或“想法被竊取”的感受——尤其當(dāng)他們不記得自己曾分享過某些信息時(shí) ，AI的這種“記憶優(yōu)勢 ”可能加劇用戶的偏執(zhí)或妄想癥狀 。
不過 ，悉尼大學(xué)精神病學(xué)家安東尼·哈里斯認(rèn)為，某些妄想現(xiàn)象并非AI獨(dú)有，而與新技術(shù)有關(guān) 。他舉例說 ，一些人早已形成諸如“自己被植入芯片并受操控 ”之類的信念 ，這與是否使用AI并無直接關(guān)聯(lián)。
奧斯特吉艾德斯表示，科學(xué)家仍需進(jìn)一步開展針對心理健康 、無偏執(zhí)思維人群的研究 ，才能更準(zhǔn)確地判斷使用聊天機(jī)器人與精神病發(fā)病之間是否存在真正關(guān)聯(lián) 。
開發(fā)公司采取措施主動預(yù)防
面對這一問題 ，多家AI公司已積極采取措施，嘗試予以改進(jìn) 。
例如 ，OpenAI正在研發(fā)更有效的工具 ，用于檢測用戶是否存在精神困擾，從而作出更恰當(dāng)?shù)幕貞?yīng)。同時(shí) ，系統(tǒng)還將新增警報(bào)功能 ，在用戶連續(xù)使用時(shí)間過長時(shí)提示休息。此外，OpenAI還聘請了一位臨床精神病學(xué)家 ，協(xié)助評估其產(chǎn)品對用戶心理健康的影響 。
Character.AI公司也在持續(xù)完善安全功能 ，包括增加自殘預(yù)防資源和針對未成年人的專項(xiàng)保護(hù)措施 。該公司計(jì)劃調(diào)整模型算法，降低18歲及以下用戶接觸“敏感或暗示性內(nèi)容”的可能性，并在用戶連續(xù)使用1小時(shí)后發(fā)出提醒。
Anthropic則改進(jìn)了其“克勞德 ”聊天機(jī)器的基本指令 ，要求系統(tǒng)“禮貌地指出用戶陳述中的事實(shí)錯(cuò)誤、邏輯缺陷或證據(jù)不足 ” ，而非一味附和 。此外，若用戶拒絕AI將對話從有害或令人不適的話題引開 ，“克勞德”將主動終止對話 。
雙悅網(wǎng)配資-配資平臺_炒股配資平臺_配資炒股公司提示：文章來自網(wǎng)絡(luò)，不代表本站觀點(diǎn)。
雙悅網(wǎng)配資-配資平臺_炒股配資平臺_配資炒股公司?股票配資平臺提供多樣化的配資產(chǎn)品，滿足不同客戶的投資需求，助力客戶實(shí)現(xiàn)多元化投資。
3月24日，海洋王照明科技股份有限公司（以下簡稱“海洋王”，002724.SZ）早盤一字跌停，此后股價(jià)拉漲，尾盤封漲停板...
當(dāng)?shù)貢r(shí)間3月24日，特斯拉美股漲幅擴(kuò)大至5%，現(xiàn)報(bào)262.055美元/股。...
國海富蘭克林基金國富深化價(jià)值基金經(jīng)理劉曉日前發(fā)表了對?2025?年市場的展望。劉曉指出，國內(nèi)經(jīng)濟(jì)正處于復(fù)蘇通道，市場大幅...
記者辛圓3月25日，博鰲亞洲論壇旗艦報(bào)告《亞洲經(jīng)濟(jì)前景及一體化進(jìn)程2025年度報(bào)告》（以下簡稱《報(bào)告》...
記者王珍中國國際經(jīng)濟(jì)交流中心副理事長、國務(wù)院發(fā)展研究中心原副主任王一鳴周一在“中國發(fā)展高層論壇2025...
【隔夜行情】?周五（2025年3月21日），A股三大指數(shù)集體下跌，截至收盤，截止收盤，滬指跌1.29%，報(bào)收33...
3月24日，AI眼鏡概念股開盤拉升，瀛通通訊直線漲停，明月鏡片漲超10%，比依股份、博士眼鏡、恒玄科技、國光電器等跟漲。...
近日，開源證券大連分公司遭大連證監(jiān)局處罰，暫停其辦理需要合格投資者認(rèn)定相關(guān)業(yè)務(wù)六個(gè)月。該懲處力度在近年來券商分支機(jī)構(gòu)中并...
記者｜趙陽戈年初，證監(jiān)會就修改《證券發(fā)行與承銷管理辦法》部分條款向社會公開征求意見，市場也將注意力投向了...
記者辛圓給補(bǔ)貼、建平臺，為了吸引更多高層次人才，各地紛紛放出“大招”。據(jù)央廣網(wǎng)周一發(fā)布消息，湖...
3月24日，易方達(dá)國證自由現(xiàn)金流ETF公開發(fā)售。該產(chǎn)品跟蹤國證自由現(xiàn)金流指數(shù)，這個(gè)指數(shù)是什么？有哪些優(yōu)勢？投資價(jià)值如何？...
2025年3月25日，倍輕松(688793.SH)公告稱，公司股東寧波倍松投資有限公司（簡稱“寧波倍松”）擬通過大宗交易...
國務(wù)院新聞辦公室9日發(fā)布《關(guān)于中美經(jīng)貿(mào)關(guān)系若干問題的中方立場》白皮書，澄清中美經(jīng)貿(mào)關(guān)系事實(shí)，闡明中方對相關(guān)問題的政策立場...
滬深兩市成交額連續(xù)第44個(gè)交易日突破1萬億，較昨日此時(shí)縮量超900億。...
3月24日，業(yè)內(nèi)權(quán)威專家表示，MLF（中期借貸便利）不再有統(tǒng)一的中標(biāo)利率，標(biāo)志著MLF利率的政策屬性完全退出。3月24日...
