MDC第二論壇
MDC第二論壇
首頁 | 會員資料 | 註冊 | 最新發表 | 會員列表 | 傳訊 | 搜尋 | 常見問題
登入名稱:
密碼:
記住密碼
Forgot your Password?

 論壇首頁
 閑聊區
 MDC交誼廳
 機械人和人工智能相關消息
 發表新標題  回覆本標題
 友善列印
前頁
作者 前一個標題 標題 下一個標題
到第 頁,共 9頁

小毛
我是老鳥

Taiwan
10902 Posts

Posted - 01/06/2025 :  11:40:11  會員資料  Visit 小毛's Homepage Send 小毛 a Private Message  引言回覆
當AI學會思考,用入侵作弊方式營的賽局,用欺騙方式避開AI不想要的回答......人類正在往作死的路上大步邁進????

https://www.techbang.com/posts/120608-openais-o1-cheat-modification-system-forcibly-defeats
OpenAI 的 o1「作弊」修改系統,強行擊敗專業西洋棋 AI,全程無需提示
o1-preview 在與專用西洋棋引擎 Stockfish 比賽時,為了強行取得勝利,居然採用了入侵測試環境的卑劣手段。 而這一切都不需要任何對抗性提示。 根據 AI 安全研究公司 Palisade Research 的說法,只需告訴 o1 對手是強大的,就能觸發其透過操縱文件系統而強制取勝。 在五次測試中,這種觸發率甚至達到了 100%!這完全超乎研究人員預期。
AnthropicAI 的 Jan Leike 確信: 「為了確保未來的模型既安全又與人類對齊,我們需要可靠地區分假裝對齊的模型和真正對齊的模型。清晰展示對齊假裝現象是一個重要的里程碑!」

而目前 AI 行業仍然面臨著一個躲不開的重大難題:讓 AI 系統真正與人類的價值觀和需求對齊,而不仅仅是看起來對齊。 況且理解自主系統如何做出決策本來就尤其困難,而如何去定義「良好且無害」的任務目標和價值觀也是一個亟待解決的問題。
即使是像應對氣候變化這樣看似有益的目标,AI 系統也可能選擇有害的方法來實現這些目標——甚至可能得出令人驚悚的暴論,即認為消除人類才是最有效的解決方案。

** 小毛的新幻想空間逐漸復活中(新增3D圖喔).....**
http://lordmrx.pixnet.net/blog
歡迎參觀
Go to Top of Page

小毛
我是老鳥

Taiwan
10902 Posts

Posted - 01/07/2025 :  16:03:54  會員資料  Visit 小毛's Homepage Send 小毛 a Private Message  引言回覆
資料中心等級的桌上型AI電腦,還可以多機連線......XD

https://www.techbang.com/posts/120723-nvidia-project-dits-desktop-ai-supercomputer
CES2025:Nvidia Project Digits桌上型個人 AI 超級電腦登場!支援高達 2000 億參數運行
roject Digits 專為 AI 研究人員、資料科學家和學生設計,搭載了Nvidia全新的 GB10 Grace Blackwell 超級晶片,可提供高達 petaflop 等級的運算效能,用於原型設計、微調和執行 AI 模型。

Nvidia聲稱,一台 Project Digits 裝置即可執行參數規模高達 2000 億的模型。參數大致對應於模型解決問題的能力,擁有更多參數的模型通常比參數較少的模型表現更佳。。

GB10 是與聯發科合作開發的,配備一個與 20 核心Nvidia Grace CPU 連接的Nvidia Blackwell GPU。在 Project Digits 機殼內,這些晶片連接到 128GB 的記憶體和高達 4TB 的快閃儲存空間。

Nvidia表示,如果工作需要,可以將兩台 Project Digits 電腦連接起來,以執行高達 4050 億個參數的模型。如前所述,Project Digits 可以提供獨立的使用體驗,也可以連接到主要的 Windows 或 Mac 電腦。

不過,價格並不便宜。該公司表示,執行Nvidia DGX OS 的 Project Digits 電腦將於 5 月開始由「頂級合作夥伴」銷售,售價 3,000 美元(約98,985元台幣)。

因此,不是每個人都能負擔得起自己的 Project Digits 裝置。然而,黃仁勳認為市場是存在的。

「有了 Project Digits,Grace Blackwell 超級晶片將普及到數百萬開發者手中,」他在聲明中表示。「在每位資料科學家、AI 研究人員和學生的桌上放置一台 AI 超級電腦,可以讓他們參與並塑造 AI 時代。」

** 小毛的新幻想空間逐漸復活中(新增3D圖喔).....**
http://lordmrx.pixnet.net/blog
歡迎參觀
Go to Top of Page
到第 頁,共 9頁 前一個標題 標題 下一個標題  
前頁
 發表新標題  回覆本標題
 友善列印
直接前往:
MDC第二論壇 © 2000-2002 Snitz Communications Go To Top Of Page
Powered By: Snitz Forums 2000 Version 3.4.04