人工智能的“偏見”能否消除
圖為桑達爾·皮查伊5月14日在加州山景城舉行的谷歌I/O大會上發表講話。自從谷歌對其搜索頁面進行改造，經常將AI生成的摘要放在搜索結果頂部，社交媒體上就出現了一些令人不安的錯誤消息。圖片來源：物理學家組織網2024年4月，在盧旺達基加利GIZ數字化轉型中心舉辦的“非洲女孩也能編程”項目的編程訓練營中，年輕女性參與者在用筆記本電腦工作。圖片來源：聯合國婦女署據英國《新科學家》網站近日報道，在提供購房和租房建議時，AI對黑人用戶傾向于推薦低收入社區，這一行為被指存在種族偏見，映射出美國歷史上長期存在的住房歧視問題。隨著人工智能（AI）技術不斷發展，其潛在問題也日益凸顯。ChatGPT等AI大模型頻頻暴露出的偏見和歧視傾向，正是這一問題的縮影。AI也有性別歧視聯合國婦女署官網5月22日報告指出，美國加州伯克利大學哈斯商學院一項研究，分析了不同行業的133個AI系統。結果顯示，約44%的系統表現出性別刻板印象，25%同時表現出性別和種族......閱讀全文
人工智能的“偏見”能否消除
圖為桑達爾·皮查伊5月14日在加州山景城舉行的谷歌I/O大會上發表講話。自從谷歌對其搜索頁面進行改造，經常將AI生成的摘要放在搜索結果頂部，社交媒體上就出現了一些令人不安的錯誤消息。圖片來源：物理學家組織網2024年4月，在盧旺達基加利GIZ數字化轉型中心舉辦的“非洲女孩也能編程”項目的編程訓練營中
人工智能幫你測謊？！當心強化偏見
雖然人類經常說謊，但通常不會指責別人說謊，因為社會規范禁止虛假指控，并強調文明禮貌。但人工智能（AI）可能很快就會改變這些規則。德國科學家研究發現，當人工智能提出指控時，人們更有可能指責他人撒謊。相關研究6月27日發表于《交叉科學》。“我們的社會對撒謊指控有著牢固而完善的規范。”論文通訊作者、杜伊斯
李俠：短視的偏見
見到又有人在談論讀書無用論的老話題，恍然發覺這30年間，我們在思想觀念上幾乎毫無進步可言，每隔一段時期，老調就會沉渣泛起。究其原因，無非是當擁有知識所獲得的榮譽與收益在遭遇社會整體知識水準快速提升的對照中，原有的差距開始縮小，甚至出現落差，一些人開始感到失落了，然后就有各種版本的讀書無
偏見與人類大腦結構有關
偏見是如何產生的？據英國《自然·神經科學》16日發表的一項腦科學研究發現，內側前額葉皮質后部（pMFC）會促進人類產生確認偏誤。具體而言，對于那些不會讓自己更加相信已有觀念的意見，內側前額葉皮質后部就不那么敏感。 人類傾向于忽視那些會破壞過去的選擇與判斷的信息。從政治到科學和教育，這種確認偏誤
如何選擇詞匯減少性別偏見
在職場中，即使是語言選擇上的細微差異，也會影響性別觀念。這些選擇主要分為兩類：通過使用中性詞匯來最小化性別作用；或通過性別標記來強調個人的性別。 行為科學家Stav Atir在近日發表于《認知科學趨勢》的研究中認為，深思熟慮地使用這兩種方法，可以促進性別平等。 “如果有人建議說‘女政治
學術上的傲慢與偏見
最能代表學術上傲慢的短語是“這個你不懂”；最能代表學術上偏見的短語是“這根本就不對”。 這兩句短語有問題嗎？沒有。語法、選詞、沒問題。與任何句子作為修飾成分來組句，或作為其它句子成分來組句，在語義上都沒有問題。 在邏輯上，這類短語是簡單判斷句。在語法上，這是強調性的否定句。在辯論場合，
《自然》網站就“偏見”報道葉詩文辯解
《自然》網站截屏 8月1日，《自然》網站發表署名文章稱，從“科學”的角度來分析，倫敦奧運會中國運動員葉詩文在女子400米混合泳中的表現反常。（）此文發表后，在《自然》讀者中引起強烈反響。大多數《自然》網友表示，此文荒唐并帶有偏見，并紛紛在報道后跟帖譴責《自然》報道有失公允。 8月
基因遺傳竟可促成性格偏見
中國科學家對數百對雙胞胎開展的新研究顯示，有些性別成見盡管沒有或幾乎沒有事實基礎，卻寫在我們的遺傳構成里。據報道，按照這種邏輯，如果出生時缺少此類成見基因，長大后形成這種性別偏見的機率也較低。 報道稱，這個研究小組聚焦于女性在數學或科學領域不知出于什么原因不如男性的常見錯誤看法，試圖確定這
機器翻譯有“偏見”，如何檢測發現？
隨著機器翻譯系統的廣泛應用，其中的公平性問題日益突顯，也就是說，系統在處理不同語言、性別、種族、文化等受保護屬性時，可能表現出偏見或不公正。中國科學院軟件研究所天基綜合信息系統全國重點實驗室特別研究助理孫澤宇聚焦可信人工智能的公平性問題，提出了首個旨在檢測機器翻譯系統公平性的框架FairMT，近日相
PNAS：生命科學領域的性別偏見
一項研究報告稱，生命科學領域的男性精英教員訓練的女性研究生和博士后研究人員的數量顯著少于其他教員。盡管女性獲得了所有生物相關領域博士學位的一半以上，女性在生命科學的教員層次上在很大程度上未被充分代表。 為了研究學術界生物醫學科學家的性別分布，Jason M. Sheltzer和Joan C.
新訓練可減少AI系統社會偏見
來自美國俄勒岡州立大學工程學院和Adobe公司的科學家攜手，開發出一種用于訓練人工智能（AI）的新技術FairDeDup。該技術不僅能降低訓練成本，而且有望減少AI系統的社會偏見。研究團隊已經在近期于美國西雅圖舉行的IEEE/CVF計算機視覺和模式識別會議大會上介紹了FairDeDup算法。該會議是
新訓練可減少AI系統社會偏見
來自美國俄勒岡州立大學工程學院和Adobe公司的科學家攜手，開發出一種用于訓練人工智能（AI）的新技術FairDeDup。該技術不僅能降低訓練成本，而且有望減少AI系統的社會偏見。研究團隊已經在近期于美國西雅圖舉行的IEEE/CVF計算機視覺和模式識別會議大會上介紹了FairDeDup算法。該會議是
醫學的性別偏見正在危害年輕女性
心臟病是美國男性和女性的頭號殺手，然而長久以來大眾都把它看成是一種“男人的病”。造成這種觀念的一部分原因很可能是因為冠心病在男性中更常見，而它正是心臟病發作最常見的原因，往往呈現年輕化趨勢。但是，研究發現一旦年輕女性心臟病發作，她們的死亡率大約是男性患者的兩倍，而每年有15，000多名
研究人類大腦結構－發現偏見產生的原因
偏見是如何產生的？據英國《自然·神經科學》16日發表的一項腦科學研究發現，內側前額葉皮質后部（pMFC）會促進人類產生確認偏誤。具體而言，對于那些不會讓自己更加相信已有觀念的意見，內側前額葉皮質后部就不那么敏感。 人類傾向于忽視那些會破壞過去的選擇與判斷的信息。從政治到科學和教育，這種確認偏誤
心理學研究顯示接觸或能弱化偏見
2015年初秋，德國馬爾堡大學的Ulrich Wagner一直盯著新聞，直到電視上播完了其數十年的社會心理學研究成果。 一段拍攝自德國慕尼黑的節目顯示，數千名移民涌入該市火車站。這里距離Wagner的家鄉法拉克福300多公里。他們的到達預示著從敘利亞以及其他中東熱點地區的逃難之旅有望結束。
男孩女孩誰聰明？偏見致某些領域性別失衡
“我的一個同事非常聰明，能比別人更快地解決問題。”當一個5歲女孩聽到這段描述，她們與男孩一樣，會猜測這個聰明人是與自己一樣的性別。但到6至7歲時，她們猜測這個聰明人是女性的可能性下降了20%~30%。相關論文近日刊登于《科學》期刊。 據悉，美國社會存在一種很普遍的刻板效應，即男性比女性更聰明
“女生學不好數學”－不應再成為社會偏見
11月22日晚，第二屆丘成桐女子中學生數學競賽圓滿落幕，來自海內外150余名巾幗學子經過筆試、面試兩輪比拼，最終決出金獎、銀獎、銅獎以及優勝獎共21人。中國人民大學附屬中學的胡殊聞勇摘桂冠。 面對不斷涌現的熱愛數學并有能力學好數學的女生，大賽主席、清華大學講席教授丘成桐表示，世界需要女性數學工
男孩女孩誰聰明？偏見致某些領域性別失衡
我的一個同事非常聰明，能比別人更快地解決問題。當一個5歲女孩聽到這段描述，她們與男孩一樣，會猜測這個聰明人是與自己一樣的性別。但到6至7歲時，她們猜測這個聰明人是女性的可能性下降了20%~30%。據悉，美國社會存在一種很普遍的刻板效應，即男性比女性更聰明。由于存在這種偏見，有的女性對自己的智商沒自信
經費評審人聚焦科學而非性別才會遠離偏見
圖釋一名女性被汗多男性圍在中間。 圖片來源：《自然》 根據一項性別偏見研究，當評審人被要求評估研究人員而非研究本身時，女性經常會處于下風。該研究認為，訓練評審人識別無意識的偏見似乎可以糾正這種不平衡，然而此前的研究卻認為這樣做反而會增加偏見。 這項日前被上傳到生物預印本服務平臺bioRxiv1的
浙大肝移植論文被撤：地域偏見？國際慣例？
最近，國際權威學術期刊《國際肝雜志》（Liver International）決定，撤銷浙江大學第一附屬主任醫師鄭樹森等人在線發表的一篇與肝移植有關的論文，并或將終身禁發該論文作者的論文。 《國際肝雜志》主編Mario Mondelli向《中國科學報》記者回應稱：“撤稿原因并非論文數據造假，
論文引用出性別偏見，女性主導論文引用次數較少
原文地址：http://news.sciencenet.cn/htmlnews/2023/12/514934.shtm一項對生命科學領域200多萬篇論文的分析顯示，論文在被引用方面存在強烈的性別偏見：女性主導的論文被引用的次數少于男性主導的論文。這種現象同樣出現在生命科學的許多子領域，包括那些性別比
面對業界偏見和質疑，他仍堅持研發核心技術
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498087.shtm“從與企業合作到自己帶隊創業，這得感謝投資人給我們指了一條明確的路。”近年來，中國科學院寧波材料技術與工程研究所（以下簡稱寧波材料所）研究員葉繼春帶領團隊攻關高效光伏電池（TOPCon
論文引用出性別偏見，女性主導論文引用次數較少
一項對生命科學領域200多萬篇論文的分析顯示，論文在被引用方面存在強烈的性別偏見：女性主導的論文被引用的次數少于男性主導的論文。這種現象同樣出現在生命科學的許多子領域，包括那些性別比例相對公平的領域。該研究近日發表于《研究政策》。 現在，女性獲得了大多數生命科學博士學位，縮小了科學家人數的性別
一心臟病藥物可改變種族偏見心理
? 英國牛津大學最近一項研究稱，一種治療心臟病的常見藥物（心得安）會對人的潛意識產生影響，進而改變他們的種族偏見心理。??? 心得安又叫普萘洛爾（Propranolol），是一種臨床上常用的β受體阻滯藥，這種藥物會影響與恐懼等情緒反應相關的神經系統，主要用于治療心律不齊、心絞痛等心臟疾病。???
一項新的研究發現，搜索算法中的性別偏見會影響用戶
一組心理學研究人員的一項新研究發現，不分性別的網絡搜索結果仍然以男性為主。此外，這些搜索結果通過促進性別偏見對用戶產生影響，并可能影響招聘決策。這項研究發表在《美國國家科學院院刊》(PNAS)上，是最新發現人工智能(AI)如何改變我們的感知和行為的研究之一。紐約大學心理學系博士后、該論文的第一作者M
對艾滋病抱有偏見？你是否也存在這些誤區
對于艾滋病，因為有很多不了解的地方，很多人都會有一些誤區，你有這樣的認識誤區嗎？快來看看專家怎么說？ 誤區一：母親是HIV陽性，孩子也一定也是！ 雖然母嬰傳播是艾滋病的傳播方式之一，但是如果經過一個規范的母嬰阻斷的處理，在妊娠早期開始吃抗病毒藥，妊娠后期這個病毒被完全抑制的話，小孩被感染的
Nature和Lancet子刊發文呼吁摒棄偏見，正確認識肥胖！
3月4日是世界肥胖日，今天Nature子刊和Lancet子刊雙雙發文，承認公眾對肥胖的不科學描述是造成體重歧視的主要原因，并呼吁制定強有力的政策和立法來防止基于體重的歧視。 在發表在《Nature Medicine》上的論文（Joint international consensus stat
研究構建超萬張人類圖像數據庫，評估AI視覺偏見
國際知名學術期刊《自然》最新發表一篇人工智能(AI)研究論文，提出并構建了一個超過1萬張人類圖像的數據庫，旨在評估AI模型在以人為本的計算機視覺領域中的偏見。這一“公平的以人類為中心的圖像基準”(FHIBE)由索尼AI團隊開發，其采用符合倫理手段獲取、基于用戶同意的數據集，可用于評估以人為中心的計算
AI立法重在抓機遇、防危害
“人工智能立法的重點應在于充分利用AI技術所提供的各種機遇，構建適宜的環境以激勵、培育大量AI初創公司和新服務的發展，防范和應對AI技術所帶來的各種潛在危害。”牛津大學計算機系主任邁克爾·伍爾德里奇教授日前在接受科技日報記者采訪時如是表示。 AI的三項重要突破 伍爾德里奇教授主要從事多
歐盟發布人工智能倫理準則
歐盟委員會4月8日發布人工智能倫理準則，以提升人們對人工智能產業的信任。歐盟委員會同時宣布啟動人工智能倫理準則的試行階段，邀請工商企業、研究機構和政府機構對該準則進行測試。 該準則由歐盟人工智能高級別專家組起草，列出了“可信賴人工智能”的7個關鍵條件——人的能動性和監督能力、安全性、隱私數據