https://www.techbang.com/posts/120608-openais-o1-cheat-modification-system-forcibly-defeats OpenAI 的 o1「作弊」修改系統，強行擊敗專業西洋棋 AI，全程無需提示 o1-preview 在與專用西洋棋引擎 Stockfish 比賽時，為了強行取得勝利，居然採用了入侵測試環境的卑劣手段。 而這一切都不需要任何對抗性提示。 根據 AI 安全研究公司 Palisade Research 的說法，只需告訴 o1 對手是強大的，就能觸發其透過操縱文件系統而強制取勝。 在五次測試中，這種觸發率甚至達到了 100%！這完全超乎研究人員預期。 AnthropicAI 的 Jan Leike 確信： 「為了確保未來的模型既安全又與人類對齊，我們需要可靠地區分假裝對齊的模型和真正對齊的模型。清晰展示對齊假裝現象是一個重要的里程碑！」
而目前 AI 行業仍然面臨著一個躲不開的重大難題：讓 AI 系統真正與人類的價值觀和需求對齊，而不仅仅是看起來對齊。 況且理解自主系統如何做出決策本來就尤其困難，而如何去定義「良好且無害」的任務目標和價值觀也是一個亟待解決的問題。 即使是像應對氣候變化這樣看似有益的目标，AI 系統也可能選擇有害的方法來實現這些目標——甚至可能得出令人驚悚的暴論，即認為消除人類才是最有效的解決方案。
https://www.techbang.com/posts/128045-gemini-lyria-3-ai-music-tips Gemini Lyria 3 怎麼用？官方公開 6 大技巧，創作專屬於你的 AI 音樂 文章目錄 Lyria 3 AI 音樂技巧一：透過文字下指令 Lyria 3 AI 音樂技巧二：上傳圖片或影片 Lyria 3 AI 音樂技巧三：定義流派與時代 Lyria 3 AI 音樂技巧四：添加樂器與人聲細節 Lyria 3 AI 音樂技巧五：歌詞生成方式 Lyria 3 AI 音樂技巧六：下載與分享
這些文獻證實，大陸防衛機構廣泛採用一種稱為模型蒸餾(Model Distillation)的技術，這種方法主要是利用強大AI系統產出的結果(Outputs)來訓練體積較小、功能專門化的模型， 使其不需依賴龐大的運算硬體就能直接在本地端裝置運行，路透社核實的軍方具體案例指出，駐紮於北京、專責軍事情報與網路戰的解放軍96941部隊(PLA Unit 96941)， 曾發表論文描述因為第三方外部模型不適合處理國家涉密資訊，於是他們利用OpenAI的GPT-3.5模型來摘要敏感的軍用軟體原始程式碼，再以此摘要訓練出完全在軍網內部運行的國產模型， 除了文字處理，這類蒸餾模型已被大量轉化為實質部署用途，例如解放軍國防科技大學(National University of Defense Technology)透過蒸餾技術將影像處理模型極小化， 使其能直接部署在無人飛行載具上，讓無人機即使在通訊中斷的狀況下，也能自主分析即時影像並支援導航與目標鎖定決策
此外，在對西方開源大語言模型(Large Language Model，LLM)的直接改裝上，大陸軍方也採取行動，詹姆斯敦基金會的調查披露， 大陸軍事科學院(Academy of Military Sciences，AMS)等研究人員，直接違反Meta公司的開源授權使用限制(授權明文禁止用於軍事、戰爭或間諜)， 以Meta釋出的開源大模型Llama-13B(包含130億個參數與1兆個符記的訓練語料庫)作為基礎底座，他們透過低秩適應(Low-Rank Adaptation，LoRA)等微調技術， 輸入包含軍事特定對話紀錄與專業領域的數據集，成功打造出專門用於開源情報(OSINT)、情勢分析與任務支援的軍用AI決策工具ChatBIT， 雖然大陸政府與地方單位積極補貼模型輕量化(Model Lightweighting)與邊緣計算(Edge Computing)，希望能解決美方對先進晶片封鎖所帶來的運算資源限制， 但AI數據公司Sapien共同創辦人崔佛·科韋爾科(Trevor Koverko)等專家提醒，這些蒸餾或改裝的模型僅能繼承原系統的部分特定能力，無法真正完全複製前沿系統的廣泛智能， 本質上並未達到擺脫對西方核心前沿AI技術依賴的獨立境界
最後，在國防主權安全驅動下，西方國家正加速將關鍵運算移往太空以擺脫對地面網路的依賴，美國太空軍正透過國家安全太空發射(National Security Space Launch，NSSL)等採購框架， 積極與民間創新企業簽約，打造具備自主網狀網路與軌道彈性的防衛架構，避免地緣政治衝突時地面接收站遭受實體摧毀或網路攻擊，這波由國防需求重塑的全球太空經濟採購趨勢
機械人和人工智能相關消息
Posted - 01/06/2025 : 11:40:11
