生成式AI時代，大模型數據安全如何保障？
在生成式AI（人工智能）時代，數據安全的出路可能會是“用魔法打敗魔法”，知識產權保護也可能要提前到token（字符串）層面。4月26日，在2024中關村論壇上，人工智能企業與學者就AI大模型的數據安全問題進行了討論。中關村論壇數據安全治理與發展論壇現場 澎湃新聞記者 秦盛 攝“在生成式人工智能時代，我們在數據安全層面，面臨的是不斷組合和創造新的數據安全風險的問題，徹底解決這種風險需要算法和工具的支撐，而不是靠人，或者靠靜態的方法去做相對固定的檢測。”清華大學計算機科學與技術系教授、人工智能研究院基礎模型研究中心副主任黃民烈如是說道。他認為，生成式人工智能可以通過訓練去組合，去生成新的內容，這些內容可能在過去的語料里根本沒出現過，但它依然是有害的。所以，即便把訓練數據處理得很干凈，在生成式人工智能時代依然會面臨有害內容產生的情況。要解決這些問題，需要進行算法研究，比如針對性對抗攻擊、自動紅隊，然后再加上安全和對齊手段，......閱讀全文
生成式AI時代，大模型數據安全如何保障？
在生成式AI（人工智能）時代，數據安全的出路可能會是“用魔法打敗魔法”，知識產權保護也可能要提前到token（字符串）層面。4月26日，在2024中關村論壇上，人工智能企業與學者就AI大模型的數據安全問題進行了討論。中關村論壇數據安全治理與發展論壇現場? 澎湃新聞記者 秦盛 攝“在生成式人工智能時代
用AI生成數據訓練AI或導致模型崩潰
科技日報北京7月25日電?（記者張夢然）《自然》24日正式發表的一篇研究論文指出了一個人工智能（AI）嚴重問題：用AI生成的數據集訓練未來幾代機器學習模型，可能會嚴重“污染”它們的輸出，這被稱為“模型崩潰”。研究顯示，原始內容會在9次迭代以后，變成不相關的“胡言亂語”（演示中一個建筑文本最終變成了野
用AI生成數據訓練AI或導致模型崩潰
《自然》24日正式發表的一篇研究論文指出了一個人工智能（AI）嚴重問題：用AI生成的數據集訓練未來幾代機器學習模型，可能會嚴重“污染”它們的輸出，這被稱為“模型崩潰”。研究顯示，原始內容會在9次迭代以后，變成不相關的“胡言亂語”（演示中一個建筑文本最終變成了野兔的名字），這凸顯出使用可靠數據訓練
AI大模型“拿捏”電池壽命
作為現代生活中不可或缺的能源載體，電池的重要性不言而喻。從清晨喚醒我們的鬧鐘，到隨身攜帶的手機、平板電腦等智能設備，無一不依賴于電池提供的穩定電力。此外，隨著科技的發展，電動汽車、無人機等新興領域也廣泛應用了各類高性能電池，推動了綠色出行和智能科技的進步。因此，電池不僅極大地便利了我們的日常生活，還
3大遙感數據源接入“商湯地界”AI遙感大模型
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519533.shtm近日，商湯科技宣布攜手國內頭部遙感數據平臺“吉林一號網”、“四維地球”、“星圖地球”，升級了其“SenseEarth智能遙感云”平臺的數據源。用戶無需準備數據，即可通過“商湯地界”平臺
《自然》封面：以AI生成數據訓練AI，模型變傻？
大模型有許多“崩”的時候，但有一種崩潰叫做“自毀前程”——近日，《自然》發表在封面的一篇論文指出，用AI生成的數據集訓練未來幾代機器學習模型，可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示，原始內容會在數代內變成不相關的“胡言亂語”
《自然》封面：以AI生成數據訓練AI，模型變傻？
大模型有許多“崩”的時候，但有一種崩潰叫做“自毀前程”—— 近日，《自然》發表在封面的一篇論文指出，用AI生成的數據集訓練未來幾代機器學習模型，可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示，原始內容會在數代內變成不相關的“胡
釋放AI大模型促消費潛力
??今年的《政府工作報告》提出持續推進“人工智能+”行動，旨在抓住人工智能技術突破機遇，使我國數字技術與制造優勢、市場規模優勢充分結合，推動人工智能大模型廣泛應用，真正賦能千行百業、走進千家萬戶。在構建新發展格局戰略背景下，AI大模型在激活內需市場、促進消費升級等方面充滿“模”力。??隨著人工智能技
啟信慧眼發布商業大數據領域AI大模型應用，降低“AI幻覺”概率
7月17日，上海合合信息科技股份有限公司旗下啟信慧眼宣布完成品牌升級，定位為“商業數據智能決策企業級AI產品”。同時，啟信慧眼首次發布中國商業大數據領域AI大模型應用，聚焦企業營銷、盡調、風控等核心場景，賦能企業數智化轉型。“慧眼”寓意洞察本質、明辨真偽的能力。合合信息數據事業部副總經理沈東輝表示，
大模型讓全球“黑客”狂歡！AI安全向何處去？
對網絡安全而言，每一次新的信息技術浪潮都蘊含著巨大機會，同時也意味著巨大的挑戰。這是因為，新技術必然帶來新的安全問題和新的需求，而“黑客”往往能快一步利用新的漏洞并發起攻擊，“防守方”則需要更快的響應和改變。大模型技術亦如此。近日，在主題為“安全AI未來”的“C3安全大會·2024”上，亞信安全亞信
華為發布大模型時代AI存儲新品
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504751.shtm
AI大模型“源”煉造客服大腦
2018年至今，NLP領域經歷了非常大的變化，Transformer、ELMO、BERT、GPT-3，再到最近的ChatGPT（GPT 3.5的微調）的突破，NLP在預訓練大模型的暴力拆解路上越走越遠，這也讓各行業開始相信：很多之前無法做到的場景、效果，現在可以有新的解法和落地。 智能客服，是
AI大模型走出“泡沫期”未來何如
今年3月ChatGPT-4上線以來，國內科技龍頭企業密集推出人工智能大模型，百度“文心一言”、阿里云“通義千問”、華為“盤古”、360“智腦”、昆侖萬維“天工”、京東“靈犀”、科大訊飛“星火”、騰訊“混元”、商湯“日日新”等大模型先后登場，呈現百花齊放、迅猛發展的態勢。截至2023年10月初，國
廈大嘗試AI大模型破譯甲骨文
近日，廈門大學信息學院自然語言處理實驗室教授史曉東團隊申報的“基于甲骨文多模態大模型的多元信息甲骨文輔助考釋模型”入選“探元計劃2024”“創新探索型項目”TOP10榜單。基于甲骨文多模態大模型的多元信息甲骨文輔助考釋模型。廈門大學供圖甲骨文也被稱作“殷墟文字”，距今已有三千多年歷史，是世界四大古文
合成數據能否讓AI模型精確可靠？
人工智能（AI）初創公司xAI創始人埃隆·馬斯克近日表示：“在AI訓練中，我們現在基本上耗盡了人類知識的累積總和。”之前研究也表明，人類生成的真實數據將在2到8年內消耗殆盡。鑒于真實數據日益稀缺，為滿足AI的“胃口”，科技行業正轉向使用合成數據。澳大利亞“對話”網站在本月稍早時間報道中指出，合成數據
合成數據能否讓AI模型精確可靠？
人工智能（AI）初創公司xAI創始人埃隆·馬斯克近日表示：“在AI訓練中，我們現在基本上耗盡了人類知識的累積總和。”之前研究也表明，人類生成的真實數據將在2到8年內消耗殆盡。鑒于真實數據日益稀缺，為滿足AI的“胃口”，科技行業正轉向使用合成數據。 澳大利亞“對話”網站在本月稍早時間報道中指出，
合成數據能否讓AI模型精確可靠？
人工智能（AI）初創公司xAI創始人埃隆·馬斯克近日表示：“在AI訓練中，我們現在基本上耗盡了人類知識的累積總和。”之前研究也表明，人類生成的真實數據將在2到8年內消耗殆盡。鑒于真實數據日益稀缺，為滿足AI的“胃口”，科技行業正轉向使用合成數據。澳大利亞“對話”網站在本月稍早時間報道中指出，合成數據
大模型安全治理：國際合作共筑AI發展新框架
“當前，人工智能技術以驚人的速度發展，如近期DeepSeek引領了低成本開發使用大模型的革新，這既為驅動新的創新提供了更多可能，也帶來了諸多風險挑戰，而在互聯互通時代，加強國際合作至關重要。”2月11日，在“人工智能技術及其應用進展”專題邊會上，清華大學交叉信息研究院、人工智能學院院長姚期智提到
設計基因編輯工具的AI大模型問世
記者27日從中國農業科學院獲悉，該院農業基因組研究所農業基因編輯技術研發與應用創新團隊構建了全球規模最大的實驗驗證數據集，并基于此開發出人工智能（AI）大模型AlphaCD。該模型不僅能高效預測超過2萬余種胞嘧啶脫氨酶的酶活特征，還能設計出新型高性能堿基編輯工具。相關成果日前發表于國際期刊《細胞
頂流AI大模型集結中關村科學城
6月14日上午，2024北京智源大會在中關村國家自主創新示范區展示中心開幕，大會現場具身智能機器人Galbot和國內主流大模型展覽區備受關注。 在展覽區，記者看到銀河通用首代具身智能機器人Galbot正忙著為嘉賓“送吃送喝”。收到指令后，Galbot自主導航到貨架，通過“視覺”鎖定貨架上的目標
劉聰：中國AI大模型也要走“直道沖鋒”之路
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498384.shtm
頂流AI大模型集結中關村科學城
6月14日上午，2024北京智源大會在中關村國家自主創新示范區展示中心開幕，大會現場具身智能機器人Galbot和國內主流大模型展覽區備受關注。 在展覽區，記者看到銀河通用首代具身智能機器人Galbot正忙著為嘉賓“送吃送喝”。收到指令后，Galbot自主導航到貨架，通過“視覺”鎖定貨架上的目標
阿里云推出首個域名AI大模型應用
8月8日，在阿里云萬網煥新發布會上，阿里云宣布域名產品服務完成AI化系列改造，推出首個基于通義大模型的域名AI應用，并上線“.ai”等40余個全新的熱門域名后綴、2000萬個全球域名資源。域名是網站的地址，它就像現實生活中的門牌號，是互聯網穩定運行和持續發展的關鍵基礎資源。數據顯示，中國域名保有量3
新型AI芯片將大語言模型能耗減半
美國俄勒岡州立大學科研團隊研發出一種新型AI芯片，成功將大語言模型的能耗降低50%。這項成果于近期在波士頓舉行的IEEE定制集成電路會議上發布，是半導體領域的重大突破，有望成為解決大語言模型高能耗問題的“綠色鑰匙”。 當前，以谷歌“雙子座”和OpenAI的GPT-4為代表的大語言模型，因海量參
“達爾文”大模型發布－為生物領域打造AI大腦
7月4日，賽靈力聯合清華珠三角研究院、賽業生物、大灣區科創中心共同舉辦達爾文大模型發布會。達爾文大模型基于多元、多模態復雜數據和先進的人工智能技術，對生物領域的復雜系統建模和分析進行深入研究，為生物學產業、研究和應用發展提供有力支撐。達爾文提出進化論，闡述物種進化的基本原理，即適者生存。對應的，達爾
用AI數據訓練AI可能最終導致崩潰
《自然》7月24日發表的一篇論文指出，用人工智能（AI）生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出，這個概念稱為“模型崩潰”（model collapse）。該研究顯示，原始內容會在數代內變成不相關的胡言亂語，顯示出使用可靠數據訓練AI模型的重要性。 生成式AI工具越來越受歡迎，
用AI數據訓練AI可能最終導致崩潰
《自然》7月24日發表的一篇論文指出，用人工智能（AI）生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出，這個概念稱為“模型崩潰”（model collapse）。該研究顯示，原始內容會在數代內變成不相關的胡言亂語，顯示出使用可靠數據訓練AI模型的重要性。生成式AI工具越來越受歡迎，如大語言
鵬城實驗室發布“鵬城·腦海”通用AI大模型
原文地址：http://news.sciencenet.cn/htmlnews/2023/9/509318.shtm近日，中國工程院院士、鵬城實驗室主任高文在2023華為全聯接大會上正式發布了“鵬城·腦海”（PengCheng Mind）通用AI大模型，以國產化基座大模型為新一代AI大模型發展構筑新
AI大模型京企獲數億元融資
12月11日，總部位于北京的大模型初創企業面壁智能宣布完成新一輪數億元融資，本輪融資由龍芯創投、鼎暉百孚、中關村科學城基金和賽富基金聯合領投，北京市人工智能產業投資基金與清科創投跟投。 端側AI，也稱終端AI或設備端AI，是指人工智能的處理和推理過程直接在用戶設備上完成，而不是依賴于遠程云服務
上海AI實驗室發布書生通用大模型體系
如同人類的“五感”互相連通密不可分，人工智能的視覺、語言、音頻等模態間的邊界日漸融合，隨著人工智能感知、交互和生成能力的快速發展，多模態大模型正推動人工智能邁進“通感”時代。 上海人工智能實驗室（上海AI實驗室）于近日發布書生通用大模型體系，其中，書生·多模態包含200億參數，由80億海量多模