給“深度偽造”這匹“野馬”拴上韁繩
利用生成式人工智能（AI）制造的虛假圖片、音頻和視頻信息等“深度偽造”內容正在快速傳播，被用來騷擾他人、詐騙金錢，甚至干擾選舉。 英國《新科學家》網站近日報道，美國OpenAI公司的文本—視頻模型Sora橫空出世，讓人們能更快捷、更廉價地制作出視頻，事實與虛構的分界線也愈加模糊，進一步加劇了人們對“深度偽造”內容的憂慮，擔心其引發虛假和錯誤信息泛濫。如何預防和阻止“深度偽造”內容誤導大眾，已成為擺在各國政府和科技巨頭面前的重大難題。 “深度偽造”愈演愈烈 2014年，隨著生成對抗網絡的發展，第一波“深度偽造”內容開始獲得關注。生成對抗網絡是一種讓AI模型相互對抗的技術，這種技術不斷發展，可逐步提高虛假圖片的真實性。但這一代“深度偽造”內容制造不僅費時，而且需要創作者具備AI方面的技術專長。 美國紐約州立大學布法羅分校計算機與電子工程系教授呂思偉指出，在這段時間，制作一段30秒的視頻通常需要數周的數字后處理工作和大量計......閱讀全文
AI偵探敲碎深度學習黑箱
研究人員創建了能填補照片空白的神經網絡，以鑒別人工智能瑕疵。 Jason Yosinski坐在美國加州舊金山的一個小型玻璃辦公室內，陷入了對人工智能的沉思。作為優步公司的研究科學家，Yosinski正為在筆記本電腦上運行的人工智能（AI）進行“腦外科手術”。 很多AI將改變人類現代生活，例如
深度學習“見頂”不等于AI寒冬
盡管新的算法模型在推動AI向前發展，但并不意味著它們的前景可以預見，也不意味著深度學習“不可救藥”。 在當前的第三次人工智能（AI）浪潮之中，深度學習算法被認為是迄今為止“最為重大的AI革命”。此說法或許有所夸大，但深度學習對這一輪AI的大爆發而言的確功不可沒。然而，最近以來，關于深度學習算
深度思維AI模型表現超越現有天氣預報
新一期《自然》雜志發表的一項研究報道了深度思維推出的最新機器學習模型。該模型能根據當前和未來天氣進行可靠的概率天氣預報，其表現不但超過了最好的傳統中程天氣預報，還能更好地預測極端天氣、熱帶氣旋路線和風能產量。GenCast相關預報的可視化。圖片來源：《自然》網站準確的天氣預報對于個人、政府和組織的日
AI教育風潮席卷中國高校－學生用AI學AI
“What does this machine do(這臺機器是干什么的)？”4日下午，西南交通大學孟加拉國留學生Zahidul Alam拍下身前吊弦疲勞試驗儀器的照片。收到他的語音提問后，手機中的24小時在線“AI學伴”瞬間給出如論文般詳細的英文回答。 這是西南交大首門人工智能通識課的第一課
院士帶貨竟是AI偽造！新技術如何才能用在正道上？
快速進化的AI生成技術，讓生成假照片、假圖像，甚至視頻換臉都更加容易，且真假難辨。尤其是AI合成的假視頻甚至冒充名醫、名人進行虛假宣傳，對公眾實施詐騙。中國工程院院士、天津中醫藥大學名譽校長張伯禮也是受害者之一。 院士帶貨 竟是AI偽造 不久前，網絡中出現了這樣一個視頻，視頻中張伯禮院士正在
當心陷入深度偽造語音陷阱
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/505961.shtm
用AI識別AI：西湖大學研究可檢測AI生成文本
虛假新聞、惡意產品評論、剽竊……ChatGPT、 GPT-4等AI大語言模型的應用帶來便利，但其誤用也帶來一系列問題。西湖大學工學院張岳教授的“文本智能實驗室”日前發布的一項研究提出一種高準確率、高速、低成本、通用的新文本檢測方法——Fast-DetectGPT，無需訓練即可識別各種AI大語言模型生
ChatGPT的拷問：何為AI倫理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天機器人程序ChatGPT席卷全球，完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用，ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各
ChatGPT的拷問：何為AI倫理、AI治理
前不久，AI聊天機器人程序ChatGPT席卷全球，完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用，ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各界關注與擔憂。近年來，不少關于人工智能（AI），并和人類生產、生活關系緊密的議題被廣泛討論，諸如“如何應對AI可能對社會產生
“AI+”時代－|－AI“解碼”免疫系統
人體免疫系統包含了很多有關身體健康的信息，其中的關鍵部分就包含在血液中。醫學界提出了一個大膽設想：通過創建一個萬能的血液測試，采集免疫系統與病原體之間的反應信息，繪制“免疫圖譜”，從而解碼免疫系統中的信息，及時在疾病惡化前篩查確診。那么，什么樣的平臺能提供足夠的計算力，不斷通過機器學習和精準模型
“打假神器”識別深偽視頻準確率超95％
據英國《新科學家》網站4日報道，人工智能（AI）深度偽造技術日益泛濫，美國加州大學爾灣分校科學家開發出一款通用檢測器，能以95%—99%的準確率識別各類AI深度偽造視頻，有望成為打擊網絡虛假信息的有力武器。隨著AI技術門檻降低，深度偽造視頻正以驚人速度污染網絡空間。從偽造政客演講干擾選舉，到制作名人
給“深度偽造”這匹“野馬”拴上韁繩
原文地址：http://news.sciencenet.cn/htmlnews/2024/2/518071.shtm
給“深度偽造”這匹“野馬”拴上韁繩
利用生成式人工智能（AI）制造的虛假圖片、音頻和視頻信息等“深度偽造”內容正在快速傳播，被用來騷擾他人、詐騙金錢，甚至干擾選舉。 英國《新科學家》網站近日報道，美國OpenAI公司的文本—視頻模型Sora橫空出世，讓人們能更快捷、更廉價地制作出視頻，事實與虛構的分界線也愈加模糊，進一步加劇了人
用AI數據訓練AI可能最終導致崩潰
《自然》7月24日發表的一篇論文指出，用人工智能（AI）生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出，這個概念稱為“模型崩潰”（model collapse）。該研究顯示，原始內容會在數代內變成不相關的胡言亂語，顯示出使用可靠數據訓練AI模型的重要性。生成式AI工具越來越受歡迎，如大語言
AI“參謀”來了！中關村AI新藥研發平臺落成
12月19日，由中關村生命科學園與角井（北京）生物技術有限公司共同發起建設的中關村AI新藥研發平臺在北京中關村生命科學園舉行落成典禮。該平臺于2020年12月開始籌建，旨在利用人工智能技術幫助制藥企業快速進行藥物靶點發現和篩選、藥物作用機制探索、特異性抗體優化等工作，成為生物醫藥企業新藥研發的
用AI數據訓練AI可能最終導致崩潰
《自然》7月24日發表的一篇論文指出，用人工智能（AI）生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出，這個概念稱為“模型崩潰”（model collapse）。該研究顯示，原始內容會在數代內變成不相關的胡言亂語，顯示出使用可靠數據訓練AI模型的重要性。 生成式AI工具越來越受歡迎，
為什么越使用AI，越活得像個AI
生成式人工智能（AIGC）在重塑生產力的同時，也給高等教育領域帶來了顛覆性變革。然而，它所具有的“技術雙面性”很可能引發“流利但不真實”“道德偏見”“技術依賴”等問題，這將影響高等教育場景。2023年初，全球多所高校陸續出臺政策禁止學生使用生成式AI，但越來越多的大學開始意識到生成式AI勢不可擋，單
醫療革新在即，北京‘AI+’行動計劃瞄準醫療深度應用
近日，北京市政府再次展現其在科技創新領域的前瞻性和領導力，發布《北京市推動“人工智能+”行動計劃（2024-2025年）》，旨在通過人工智能技術深度賦能醫療等多個關鍵行業，構建智慧城市的未來圖景。在醫療健康領域，北京市正積極推動醫療大模型技術的研發與應用，致力于打造“北京醫生”醫療大模型平臺。該平臺
百度王海峰：AI創新和發展，進入“深度學習+”階段
進入2023年，百度首席技術官王海峰對創新和增長充滿樂觀。 “‘深度學習+’，是創新發展新引擎，驅動技術發展和產業增長，讓創新創造大有可為。”在百度Create AI開發者大會上，王海峰提出“深度學習+”：人工智能（AI）的技術創新和產業發展，已經進入“深度學習+”階段。 他指出，深度
“AI已深度融入了生物資源研發和產品創新”
“無論是研發端還是產品端，我們都在深度融合AI。” 在2025年騰沖科學家論壇期間，圍繞“深化科技成果轉化國際合作，助力高新技術產業創新發展”的議題，貝泰妮集團資深研發總監、云南特色植物提取實驗室創新原料首席科學家曲麗萍闡述了人工智能（AI）技術如何深度融入生物資源研發、推動跨學科合作，并將可
“氏無界·AI無疆”醫療AI成果轉化行動啟動
原文地址：http://news.sciencenet.cn/htmlnews/2024/1/516109.shtm
亞馬遜云推出AI代理功能，讓AI成為助理
Amazon Bedrock的Agents（代理）功能將使公司能夠構建可以自動執行特定任務的AI應用程序，例如預訂餐廳，而不僅僅是得到去哪里吃飯的建議。 “很多人都如此聚焦于這些模型和模型的大小，但我認為真正重要的是如何利用它們構建應用，這也是今天發布代理（Agents）功能的一個重要原因。”
“AI成龍”遇冷，AI數字人在影視業不靈？
影視業成為“粗制濫造”的標簽?近日，影視巨星成龍主演、大量使用了人工智能（AI）數字人技術的電影《傳說》登陸大熒幕，卻遭遇了票房與口碑的雙失利。截至7月20日，豆瓣評分5.3，上映10天累計票房不到8000萬元。顯然，“AI成龍”遭到了冷遇。“AI成龍”本是《傳說》這部電影的賣點。據介紹，為了劇情需
用AI犯罪的五種方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推進。這是一個AI新紀元，在AI的幫助下，科研的邊界被不斷拓寬，解決復雜問題的速度越來越快，但必須警惕：AI也能極大提高犯罪分子的“生產力”。安全公司“趨勢科技”研究員文森佐·錢卡利尼表示，生成式AI提供了一個新的、強大的工具包，使惡意行為者能夠比以往更高效、更
用AI犯罪的五種方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推進。這是一個AI新紀元，在AI的幫助下，科研的邊界被不斷拓寬，解決復雜問題的速度越來越快，但必須警惕：AI也能極大提高犯罪分子的“生產力”。 安全公司“趨勢科技”研究員文森佐·錢卡利尼表示，生成式AI提供了一個新的、強大的工具包，使惡意行為者能夠比以往更
用AI生成數據訓練AI或導致模型崩潰
《自然》24日正式發表的一篇研究論文指出了一個人工智能（AI）嚴重問題：用AI生成的數據集訓練未來幾代機器學習模型，可能會嚴重“污染”它們的輸出，這被稱為“模型崩潰”。研究顯示，原始內容會在9次迭代以后，變成不相關的“胡言亂語”（演示中一個建筑文本最終變成了野兔的名字），這凸顯出使用可靠數據訓練
用AI生成數據訓練AI或導致模型崩潰
科技日報北京7月25日電?（記者張夢然）《自然》24日正式發表的一篇研究論文指出了一個人工智能（AI）嚴重問題：用AI生成的數據集訓練未來幾代機器學習模型，可能會嚴重“污染”它們的輸出，這被稱為“模型崩潰”。研究顯示，原始內容會在9次迭代以后，變成不相關的“胡言亂語”（演示中一個建筑文本最終變成了野
AI也分級？清華教授推動全球首個AI《分級定義》
AI對話系統發展歷程 高凱 攝 28日，由清華大學計算機教授、智能技術與系統實驗室副主任黃民烈發起，聯合了十余家科研機構、二十多位知名學者共同制定的全球首個《AI對話系統分級定義》(以下簡稱《分級定義》)正式發布，《分級定義》將推動AI對話系統在虛擬個人助理、智能家居、智能汽車(車載語音)、情
未來智能社會什么樣從AI到AI+
8月26日國發〔2025〕11號頒布了《國務院關于深入實施“人工智能 +”行動的意見》這一重要文件，其中特別強調“人機協同、跨界融合、共創分享的智能經濟和智能社會新形態”，其核心就是要積極構建“人、機（ AI）與環境對齊的生態智能體系”，推動人工智能與經濟社會各行業各領域廣泛深度融合，重塑人類生產生
AI－耗電超出預期，未來－AI－進展或依賴能源突破
據 technews 報道，由于 AI 消耗電力將遠遠超出人們預期，OpenAI 執行長 Sam Altman 認為，未來 AI 發展需要尋求能源突破。Sam Altman在彭博社于達沃斯世界經濟論壇（World Economic Forum）期間舉行的座談活動中談道，對氣候友善的能源，特別是核融合