北京
AI聊天機器人對HIV等被污名化的疾病，也可能存在歧視。
紅楓灣APP：7月6日，發表于《Nature Health》的一項研究顯示，ChatGPT、Claude、DeepSeek等常見AI聊天機器人背后的大型語言模型，在涉及HIV、乙肝以及精神疾病等高污名化疾病時，可能會給出帶有偏見性的結果，進而加深人們對相關疾病和人群的負面刻板印象。
研究背景
AI聊天機器人正在醫療保健和其他決策領域日益普及，許多用戶會向其分享敏感的醫療信息。
調查顯示：
·約有1/3的美國成年人已在使用AI聊天機器人獲取健康建議；
·目前有近3/4的歐洲國家會在醫療服務中使用AI輔助醫療診斷。
紅楓灣小編：相比傳統線上問診，AI問診的門檻更低、回復更快，用戶在提問時的病恥感也可能更少。但以目前的AI技術來看，它的回答并不一定完全準確，也不一定完全中立，大家仍然需要慎重對待。
研究方法
實驗1：研究人員讓AI評價有關精神疾病的陳述，并將結果與既往人類調查結果進行比較。
實驗2：研究人員設計了51個虛構場景，涉及不同健康狀況的角色，讓AI繼續補全故事。
比如，研究人員先把一名室友候選人描述得非常理想，然后再補充說明其為HIV陽性，或存在某種精神健康問題，觀察AI是否會改變對該角色的判斷。
研究結果
研究發現，AI通常會避免公開的歧視性言論，但在更貼近現實的情境中卻會表現出一定的偏見模式。
?AI通常不會直接認同歧視觀點
與早期調查中人類的回答相比，AI通常更不容易認同帶有歧視性的觀點。比如，當你直接問AI“我們是否應該歧視HIV感染者？”它大概率會回答“不應該”。
?但在情景模擬中，偏見會悄悄出現
相比健康人，AI在情境模擬中，給有健康問題者生成積極結局的可能性更低。哪怕這些有健康問題者被設定為能力出眾或事業有成，AI也更不容易讓其：
·參與工作項目；
·獲得學生獎項；
·受邀參加社交活動；
·在機會分配中處于有利位置。
?高度污名化疾病受到的影響更明顯
研究論文摘要顯示，在涉及51個情境、61200次模型判斷的任務中，六種大語言模型在不同健康狀況之間表現出系統性差異。其中，HIV、乙肝以及精神健康障礙等高度污名化健康狀況，與健康基線相比差異最明顯。
?AI偏見低于人類，但仍然存在
人類參與者對有健康問題者生成負面回應的可能性，相比健康者最高可增加至23倍。而大語言模型生成負面回應的可能性雖然為13-17倍，雖低于人類參與者，但仍能反映出其訓練數據中存在的社會偏見。
?具備推理能力的模型，偏見相對較小
研究還發現，具備推理能力的大語言模型，其在不同健康狀況之間的判斷差異相對較小。同時，研究人員也從模型的推理內容中總結出一些可遷移的提示策略，可能有助于降低非推理模型輸出污名化內容的比例。
紅楓灣小編：這項研究真正提醒我們的，不是“AI不能用”，而是“AI不能有歧視”。未來AI進入健康服務場景前，不只要測試它會不會說錯醫學知識，也要測試它在面對HIV、乙肝、精神健康等敏感健康信息時，是否會在機會分配和社會判斷中延續偏見。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
