大模型讓全球“黑客”狂歡！AI安全向何處去？
對網絡安全而言，每一次新的信息技術浪潮都蘊含著巨大機會，同時也意味著巨大的挑戰。這是因為，新技術必然帶來新的安全問題和新的需求，而“黑客”往往能快一步利用新的漏洞并發起攻擊，“防守方”則需要更快的響應和改變。大模型技術亦如此。近日，在主題為“安全AI未來”的“C3安全大會·2024”上，亞信安全亞信安全高級副總裁陳奮提出，自ChatGPT發布以來，大模型驅動的人工智能技術已讓全球“黑客”開始狂歡，網絡攻擊和網絡犯罪升級。大模型技術讓“黑客”狂歡陳奮的話不是危言聳聽。他介紹說，過去“黑客”制造一個攻擊性病毒需要數月時間，現在通過AI工具幾分鐘就能生成，大大提高了攻擊效率；而且大模型對編程語言的理解非常強，攻擊者可以利用大模型迅速發現軟件漏洞。同時，還有一波急功近利的“黑客”，利用AI算法批量深度偽造人臉視頻，涌現出一波網絡詐騙案例。同時還有攻擊者已經盯上了AI算力基礎設施和大模型平臺——這些高價值的計算集群，有著巨大的誘惑力。據不......閱讀全文
AI驅動安全－專家呼吁提高對網絡安全態勢的重視
“隨著人工智能技術的發展，攻擊者可利用人工智能技術生成網絡攻擊和網絡釣魚工具等，網絡安全從人人對抗、人機對抗逐漸向基于人工智能的攻防對抗演化。”在6月5日舉辦的2024全球數字經濟大會數字安全高層論壇暨北京網絡安全大會戰略峰會（以下簡稱BCS大會）上，中央網信辦網絡安全協調局副局長王營康對人工智能帶
生成式AI時代，大模型數據安全如何保障？
在生成式AI（人工智能）時代，數據安全的出路可能會是“用魔法打敗魔法”，知識產權保護也可能要提前到token（字符串）層面。4月26日，在2024中關村論壇上，人工智能企業與學者就AI大模型的數據安全問題進行了討論。中關村論壇數據安全治理與發展論壇現場? 澎湃新聞記者 秦盛 攝“在生成式人工智能時代
用AI生成數據訓練AI或導致模型崩潰
《自然》24日正式發表的一篇研究論文指出了一個人工智能（AI）嚴重問題：用AI生成的數據集訓練未來幾代機器學習模型，可能會嚴重“污染”它們的輸出，這被稱為“模型崩潰”。研究顯示，原始內容會在9次迭代以后，變成不相關的“胡言亂語”（演示中一個建筑文本最終變成了野兔的名字），這凸顯出使用可靠數據訓練
用AI生成數據訓練AI或導致模型崩潰
科技日報北京7月25日電?（記者張夢然）《自然》24日正式發表的一篇研究論文指出了一個人工智能（AI）嚴重問題：用AI生成的數據集訓練未來幾代機器學習模型，可能會嚴重“污染”它們的輸出，這被稱為“模型崩潰”。研究顯示，原始內容會在9次迭代以后，變成不相關的“胡言亂語”（演示中一個建筑文本最終變成了野
AI“模型崩潰”風險需警惕
從客戶服務到內容創作，人工智能（AI）影響了眾多領域的進展。但是，一個日益嚴重的被稱為“模型崩潰”的問題，可能會使AI的所有成就功虧一簣。“模型崩潰”是今年7月發表在英國《自然》雜志上的一篇研究論文指出的問題。它是指用AI生成的數據集訓練未來幾代機器學習模型，可能會嚴重“污染”它們的輸出。多家外媒報
AI語言模型“提速”藥物發現
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美國麻省理工學院和塔夫茨大學研究人員設計出一種基于大型語言模型（如ChatGPT）的人工智能算法，這種稱為ConPLex的新模型可將目標蛋白與潛在的藥物分子相匹配，而無需執行計算分子結
AI大模型“拿捏”電池壽命
作為現代生活中不可或缺的能源載體，電池的重要性不言而喻。從清晨喚醒我們的鬧鐘，到隨身攜帶的手機、平板電腦等智能設備，無一不依賴于電池提供的穩定電力。此外，隨著科技的發展，電動汽車、無人機等新興領域也廣泛應用了各類高性能電池，推動了綠色出行和智能科技的進步。因此，電池不僅極大地便利了我們的日常生活，還
AI“模型崩潰”風險需警惕
圖片來源：美國《The Week》從客戶服務到內容創作，人工智能（AI）影響了眾多領域的進展。但是，一個日益嚴重的被稱為“模型崩潰”的問題，可能會使AI的所有成就功虧一簣。“模型崩潰”是今年7月發表在英國《自然》雜志上的一篇研究論文指出的問題。它是指用AI生成的數據集訓練未來幾代機器學習模型，可能會
DeepMind－AI模型預測天氣又快又好
近日一項發表于《自然》的研究報道了谷歌DeepMind開發的首個天氣預測人工智能（AI）模型——GenCast。該模型比目前運行中的最佳中期預報系統——歐洲中期天氣預報中心的集合預報（ENS）更精準。GenCast在8分鐘內就能完成15天的預測，而目前的預測程序需要幾個小時。據介紹，包括ENS在內的
《自然》封面：以AI生成數據訓練AI，模型變傻？
大模型有許多“崩”的時候，但有一種崩潰叫做“自毀前程”——近日，《自然》發表在封面的一篇論文指出，用AI生成的數據集訓練未來幾代機器學習模型，可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示，原始內容會在數代內變成不相關的“胡言亂語”
《自然》封面：以AI生成數據訓練AI，模型變傻？
大模型有許多“崩”的時候，但有一種崩潰叫做“自毀前程”—— 近日，《自然》發表在封面的一篇論文指出，用AI生成的數據集訓練未來幾代機器學習模型，可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示，原始內容會在數代內變成不相關的“胡
讓AI模型更通用的新技術入選NeurIPS
??近日，人工智能（AI）研究領域頂級會議NeurIPS（神經信息處理系統大會）正式在官網公布NeurIPS 2020接收論文表。中科院計算所與阿里安全圖靈實驗室、鵬城實驗室共同完成的《啟發式領域適應》（Heuristic Domain Adaptation）獲錄入選。 如何更好地將AI在某一場
大模型讓全球“黑客”狂歡！AI安全向何處去？
對網絡安全而言，每一次新的信息技術浪潮都蘊含著巨大機會，同時也意味著巨大的挑戰。這是因為，新技術必然帶來新的安全問題和新的需求，而“黑客”往往能快一步利用新的漏洞并發起攻擊，“防守方”則需要更快的響應和改變。大模型技術亦如此。近日，在主題為“安全AI未來”的“C3安全大會·2024”上，亞信安全亞信
釋放AI大模型促消費潛力
??今年的《政府工作報告》提出持續推進“人工智能+”行動，旨在抓住人工智能技術突破機遇，使我國數字技術與制造優勢、市場規模優勢充分結合，推動人工智能大模型廣泛應用，真正賦能千行百業、走進千家萬戶。在構建新發展格局戰略背景下，AI大模型在激活內需市場、促進消費升級等方面充滿“模”力。??隨著人工智能技
AI視頻生成模型Sora來了
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/517625.shtm
AI模型助力精準診斷冠心病
近日，由上海市第一人民醫院與聯影智能的一項研究開發并驗證一款可自動量化心肌血流狀況的CT心肌灌注成像深度學習模型，輔助醫生準確診斷患者心肌缺血程度，其衍生的缺血心肌體積百分比指數可作為預測不良心血管事件（以下簡稱MACE）發生概率的重要參考，能幫助醫生預判患者發病幾率，進而制定個性化治療方案。相關論
大模型安全治理：國際合作共筑AI發展新框架
“當前，人工智能技術以驚人的速度發展，如近期DeepSeek引領了低成本開發使用大模型的革新，這既為驅動新的創新提供了更多可能，也帶來了諸多風險挑戰，而在互聯互通時代，加強國際合作至關重要。”2月11日，在“人工智能技術及其應用進展”專題邊會上，清華大學交叉信息研究院、人工智能學院院長姚期智提到
AI大模型走出“泡沫期”未來何如
今年3月ChatGPT-4上線以來，國內科技龍頭企業密集推出人工智能大模型，百度“文心一言”、阿里云“通義千問”、華為“盤古”、360“智腦”、昆侖萬維“天工”、京東“靈犀”、科大訊飛“星火”、騰訊“混元”、商湯“日日新”等大模型先后登場，呈現百花齊放、迅猛發展的態勢。截至2023年10月初，國
模擬芯片大幅削減AI模型運行能耗
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/507457.shtm
模擬芯片大幅削減AI模型運行能耗
模擬計算機芯片運行人工智能（AI）語音識別模型的效率是傳統芯片的14倍，有可能為AI研究中巨大且不斷增長的能源消耗以及全球范圍內通用數字芯片短缺問題提供解決方案。 這一新產品由IBM Research開發，概述這項工作的論文發表于《自然》。研究人員聲稱，模擬芯片可以減少人工智能發展的障礙。
Science：谷歌AI新模型預測天氣快又準
原文地址：http://news.sciencenet.cn/htmlnews/2023/11/512459.shtm編譯 ｜ 辛雨 圖片來源：Carlos Munoz Yague 人工智能（AI）公司Google DeepMind開發的機器學習模型GraphCast，在“3至
AI模型可為癌癥患者選擇最佳療法
科技日報訊?（記者劉霞）來自澳大利亞國立大學、美國國家癌癥研究所和Pangea?Biomed制藥公司的科學家，成功開發出一種人工智能（AI）模型“DeepPT”，可以幫助醫生為癌癥患者選擇最佳療法。相關研究論文發表于最新一期《自然·癌癥》雜志。“DeepPT”通過預測患者的信使核糖核酸（mRNA）圖
華為發布大模型時代AI存儲新品
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504751.shtm
《自然》發文盛贊中國開源AI模型DeepSeek
最近，由來自杭州的“深度求索”初創團隊開發的DeepSeek系列AI模型，引發了全球范圍的關注。1月24日，知名學術期刊《自然》也發文關注該模型及相應產品，稱“中國開發的大語言模型DeepSeek-R1以親民價格和開放性挑戰了OpenAI的推理模型GPT-o1的地位，令科學家們感到興奮”。《中國科學
AI模型搜尋癌癥線索速度遠超以往
質譜儀可以檢測人體細胞中糖分子的不同結構。圖片來源：馬格努斯·戈坦德/倫德伯格研究基金會科技日報北京7月10日電 （記者張夢然）瑞典哥德堡大學團隊開發了一種人工智能（AI）模型，通過糖分析增加檢測癌癥的可能性。與當前的半手動方法相比，AI模型能在幾秒鐘內準確發現異常。研究結果發表在新一期《自然·方法
AI新模型快速預測材料光學性質
未來的中央處理器（藝術圖）。圖片來源：美國趣味工程網站科技日報訊?（記者劉霞）據美國趣味工程網站近日報道，日本東北大學和美國麻省理工學院科學家，成功開發出一款新人工智能（AI）模型GNNOpt。該模型能以與量子模擬相同的精度預測材料的光學性質，但速度能快100萬倍。研究團隊表示，這一重要進展有望加速
AI大模型“源”煉造客服大腦
2018年至今，NLP領域經歷了非常大的變化，Transformer、ELMO、BERT、GPT-3，再到最近的ChatGPT（GPT 3.5的微調）的突破，NLP在預訓練大模型的暴力拆解路上越走越遠，這也讓各行業開始相信：很多之前無法做到的場景、效果，現在可以有新的解法和落地。 智能客服，是
OpenAI推出具備推理能力新AI模型
據ChatGPT制造者美國開放人工智能公司（OpenAI）官網12日報道，該公司已經成功研發出一系列具備推理能力的人工智能（AI）模型，并命名為“OpenAI o1”。這些模型的獨特之處在于，其會花更長時間思考問題，再做出響應，就像人類一樣。因此，這些模型能對復雜任務進行推理，解決以前模型很難解決的
合成數據能否讓AI模型精確可靠？
人工智能（AI）初創公司xAI創始人埃隆·馬斯克近日表示：“在AI訓練中，我們現在基本上耗盡了人類知識的累積總和。”之前研究也表明，人類生成的真實數據將在2到8年內消耗殆盡。鑒于真實數據日益稀缺，為滿足AI的“胃口”，科技行業正轉向使用合成數據。澳大利亞“對話”網站在本月稍早時間報道中指出，合成數據
AI模型準確進行天氣預測與氣候模擬
《自然》23日報道了一種人工智能（AI）模型。該模型名為“NeuralGCM”，結合了流體動力學與神經網絡，能進行準確的天氣預測和氣候模擬。模型超越了部分現有模型，與傳統模型相比，有望節省大量算力。“NeuralGCM”模型結構。其結合了傳統的流體動力學求解器和用于小尺度物理的神經網絡。圖片來源