| 作者 |
 標題  |
|
cwchang2100
我是老鳥
Cayman Islands
17243 Posts |
 Posted - 07/08/2020 : 09:06:35
|
quote:
Originally posted by metalfinally
剛剛 軟體銀行鷹 vs 樂天金鷹 的職棒球賽
中場休息時，軟銀鷹的機器人應援團（由 Pepper 和 波士頓動力Spot 組成）上來唱應援歌
https://youtu.be/iiZrXo1kruM
https://youtu.be/-T5aVOwWioE
這是什麼反烏托邦世界....
說什麼傻話呢? 這就是烏托邦理想國度呀! 
-----------------
這些秘密話語來自活著的耶穌，由迪迪摩斯•猶大•多馬記錄。
他說：「任何人發現了這些話的意義，將不會嚐到死亡的滋味。」
多馬福音第1節 |
 |
|
|
roger011
路人甲乙丙
1131 Posts |
Posted - 07/08/2020 : 11:32:25
|
quote:
Originally posted by cwchang2100
quote:
Originally posted by metalfinally
剛剛 軟體銀行鷹 vs 樂天金鷹 的職棒球賽
中場休息時，軟銀鷹的機器人應援團（由 Pepper 和 波士頓動力Spot 組成）上來唱應援歌
https://youtu.be/iiZrXo1kruM
https://youtu.be/-T5aVOwWioE
這是什麼反烏托邦世界....
說什麼傻話呢? 這就是烏托邦理想國度呀!
-----------------
這些秘密話語來自活著的耶穌，由迪迪摩斯•猶大•多馬記錄。
他說：「任何人發現了這些話的意義，將不會嚐到死亡的滋味。」
多馬福音第1節
如果連場上的球員與教練,都一併換成AI機器人就好了,那才是真正的烏托邦啊!
|
|
|
|
MKMAN200
路人甲乙丙
1856 Posts |
Posted - 07/08/2020 : 13:00:59
|
quote:
Originally posted by roger011
quote:
Originally posted by cwchang2100
quote:
Originally posted by metalfinally
剛剛 軟體銀行鷹 vs 樂天金鷹 的職棒球賽
中場休息時，軟銀鷹的機器人應援團（由 Pepper 和 波士頓動力Spot 組成）上來唱應援歌
https://youtu.be/iiZrXo1kruM
https://youtu.be/-T5aVOwWioE
這是什麼反烏托邦世界....
說什麼傻話呢? 這就是烏托邦理想國度呀!
-----------------
這些秘密話語來自活著的耶穌，由迪迪摩斯•猶大•多馬記錄。
他說：「任何人發現了這些話的意義，將不會嚐到死亡的滋味。」
多馬福音第1節
如果連場上的球員與教練,都一併換成AI機器人就好了,那才是真正的烏托邦啊!
 |
|
|
|
小毛
我是老鳥
Taiwan
10745 Posts |
Posted - 08/21/2020 : 16:27:37
|
話說看到一篇美軍教官和人工智慧比空中狗戰，忽然想到當年鋼彈的想定，核心戰機有學習電腦，所以阿姆羅的神級操作後來被普遍於吉母與傑鋼和傑斯塔系列，聯邦的雜魚都變得超強.....
我說如果人類ACE的招牌動作神操作都給人工智慧學會了，到時候空戰怎樣打？
** 小毛的新幻想空間逐漸復活中(新增3D圖喔).....**
http://lordmrx.pixnet.net/blog
歡迎參觀 |
|
|
|
NET
新手上路
115 Posts |
Posted - 08/21/2020 : 22:42:58
|
| 人類在控制動作的完美程度上早就輸給自動控制很久了，FBW 就是一例。 |
|
|
|
MikeH
路人甲乙丙
USA
4744 Posts |
|
|
慎．中野
我是老鳥
27931 Posts |
Posted - 08/21/2020 : 23:30:37
|
quote:
Originally posted by MikeH
autopilot 在上世紀三十年代就實用化
比人類飛得四平八穩
二戰前後的autopilot記得只是用某些裝置去卡住操縱系統。
打比方講類似以前類比時代常用的用膠帶貼住搖桿按鈕之類的做法。
這跟現代化的用巨集去重複某些動作的程度差很多。
－－－－
「我乃是根據個人一向仰賴的研究方法而得出結論。我的方法就是：道聽途說加上斷章取義，然後歸納推理，最後忘掉訊息來源，開始強詞奪理，堅持我所言就是既定事實。」
史考特．亞當斯，《呆伯特之黃鼠狼當道》 |
Edited by - 慎．中野 on 08/21/2020 23:32:47 |
|
|
|
MikeH
路人甲乙丙
USA
4744 Posts |
|
|
慎．中野
我是老鳥
27931 Posts |
Posted - 08/22/2020 : 13:04:33
|
quote:
Originally posted by MikeH
quote:
二戰前後的autopilot記得只是用某些裝置去卡住操縱系統。
開玩笑!
光是卡住操控 不能長時間保持飛機穩定
就算你調好配平 才鎖住操控
風向風速 燃料消耗改變重心 都會造成偏移
Sperry 發明的第一代自動駕駛儀
就用上了陀螺儀產生控制修正值 來維持穩定
這基本控制律 現代 AP 還在用
只是從機械 電機 進步到電腦計算
除了維持飛行方向高度
也加入了 LNAV, VNAV 之類的高階功能
多查了一下資料，確實是我弄錯了。
我把對Fw190的輔助駕駛系統的印象記憶，與Autopilot混為一談。
謝指正。
－－－－
「我乃是根據個人一向仰賴的研究方法而得出結論。我的方法就是：道聽途說加上斷章取義，然後歸納推理，最後忘掉訊息來源，開始強詞奪理，堅持我所言就是既定事實。」
史考特．亞當斯，《呆伯特之黃鼠狼當道》 |
|
|
|
慎．中野
我是老鳥
27931 Posts |
Posted - 08/22/2020 : 13:08:24
|
quote:
Originally posted by 小毛
話說看到一篇美軍教官和人工智慧比空中狗戰，忽然想到當年鋼彈的想定，核心戰機有學習電腦，所以阿姆羅的神級操作後來被普遍於吉母與傑鋼和傑斯塔系列，聯邦的雜魚都變得超強.....
我說如果人類ACE的招牌動作神操作都給人工智慧學會了，到時候空戰怎樣打？
https://news.ltn.com.tw/news/world/paper/1394739
美虛擬空戰 AI機師戰勝F-16飛官
2020-08-22 05:30:00
...
美國國防部的「阿爾法戰鬥機纏鬥實驗」（Alpha Dogfight Trials）在去年啟動，配合「空中戰鬥進化」（ACE）計畫，探討AI技術如何用以協助軍事任務
...
面對侵略性戰術 飛官：應對派不上用場
在AI隊伍的決賽中，前兩天賽事中共擊落虛擬敵人二一三次、僅被擊落十六次的蒼鷺隊伍，以十六比四的絕對優勢勝出，進而與美國空軍武器學校一名呼號「老爺車」（Banger）、戴著「擴增實境」（AR）頭盔的F-16人類飛行教官，透過模擬裝置進行對決，並線上直播這場「人機大戰」。畫面顯示，經驗豐富的人類飛行員雖成功避開第一擊，並透過變化戰略和戰術持續存活，但AI機師仍在五回合空戰中全部勝出。
人類飛行員在賽後表示，面對AI機師採取的侵略性戰術，「我們的標準應對根本派不上用場。」
AI研發目前集中在無人機任務
不過，AI在空中纏鬥（dogfight）的勝利不代表戰鬥機飛行員已經成為過去式。根據航太與國防工業分析公司蒂爾集團（Teal Group）的分析師阿布拉菲亞（Richard Aboulafia）表示 ，目前AI的研發集中在充當無人機的大腦，當作「忠誠的僚機」，運用人工智慧來進行電子戰或是偵察任務，而不是用來取代飛行員。美國空軍中校莫克（Justin Mock）也說，AI當前只能應付行動可以預料的對手。
----
－－－－
「我乃是根據個人一向仰賴的研究方法而得出結論。我的方法就是：道聽途說加上斷章取義，然後歸納推理，最後忘掉訊息來源，開始強詞奪理，堅持我所言就是既定事實。」
史考特．亞當斯，《呆伯特之黃鼠狼當道》 |
|
|
|
JOKER
路人甲乙丙
1854 Posts |
Posted - 08/22/2020 : 13:57:10
|
https://www.youtube.com/watch?v=IOJhgC1ksNU
我對現代空戰不熟悉，有問題請用力鞭。
交戰的基本想定是同高度同速度反方向開始，機型均為F16，武器限定為機炮。
AI第一場在雙方對沖時就取得命中；第二場在第一次剪刀機動就完全利用了攻擊機會將人類飛行員擊傷，然後在第二次剪刀機動對頭時取得擊殺。第三第四場的情況看上去也類似。
第五場人類飛行員改變了戰術和機動方式，不再進行剪刀機動。兩機一邊繞圈一邊下降，但是AI繞得更好。最後人類飛行員試圖以9G過載在水平方向繼續繞圈，AI兩次在非常大的角度和極限射程上取得機炮命中。繞了兩圈之後，AI繞得更好並且騎上人類飛行員的6點，取得擊殺。
給我的感覺就是一個有鐳射武器、瞄準輔助且“極其”不怕死的熟練玩家在和飛行員打皇牌空戰。在人類會選擇進行迴避機動的狀況下，AI卻會不要命的進行攻擊。同時，AI在雙方機動中能夠抓住極短暫的窗口、在極大的角度上進行致命射擊，並且在機炮的極限射程上就能夠準確命中目標。
同時這也讓我想到AlphaStar一開始登場時的表現，靠對大量追獵者進行極端精密的閃現操作，在正面戰場上硬是殲滅了人類玩家理論上克制純追獵者的混合部隊。不過那次AlphaStar無法應付人類玩家的多線操作，最後老家被偷爆了。
————————————————
瘟疫不講黨性，不讀空氣，不理會政治正確 |
|
|
|
MikeH
路人甲乙丙
USA
4744 Posts |
|
|
dasha
版主
41804 Posts |
Posted - 08/23/2020 : 06:44:29
|
比較早的自動駕駛是"維持現狀"與"自動進入備用安全程序",現在自動駕駛AI則是"自動完成事先輸入的任務",這個與過去相比就要看你輸入任務是甚,比方電視轉播要無人機從頭到尾拍演唱會,必須要切換視角玩螺旋飛行之類,過去的話斷訊大概就只能降落拍停機坪,現在要求的是繼續繞圈拍並錄下直到能傳訊為止.
不過,目前AI要求還不到"自行設定目的",只是在發展"達成目的自行選擇手段"而已. |
|
|
|
MikeH
路人甲乙丙
USA
4744 Posts |
|
|
慎．中野
我是老鳥
27931 Posts |
Posted - 11/30/2020 : 16:10:18
|
https://news.ltn.com.tw/news/world/breakingnews/3366333
暗殺細節曝光！伊朗核武之父遭機槍遠端遙控射殺 無刺客在場
2020/11/30 10:22
〔即時新聞／綜合報導〕伊朗「核武之父」法克里薩德（Mohsen Fakhrizadeh），27日在首都德黑蘭東部的阿布薩市（Absard）遭槍擊，中彈身亡，原先媒體報導是遭到多名槍手伏擊暗殺，但有伊朗媒體報導，此次暗殺行動是由遙控機槍遠端遙控所為，全程沒有任何刺客在場。
...
1架遙控機槍從停在其車隊150公尺外的無人日產汽車內，朝法克里薩德猛烈射擊，法克里薩德至少中3槍，保鑣見狀用立刻以肉體保護核武之父也中彈，隨後這輛日產汽車爆炸，沒有留下任何證據，整起暗殺行動僅歷時短短3分鐘，全部由遠程控制的自動武器完成，沒有任何刺客在場。
...
----
《絕命毒師》+《不可能的任務》情節。
https://youtu.be/73xMOzVYU9o
Breaking Bad SE05E16 Mr Whites oscillating machinegun
－－－－
「我乃是根據個人一向仰賴的研究方法而得出結論。我的方法就是：道聽途說加上斷章取義，然後歸納推理，最後忘掉訊息來源，開始強詞奪理，堅持我所言就是既定事實。」
史考特．亞當斯，《呆伯特之黃鼠狼當道》 |
|
|
|
BlueWhaleMoon
我是老鳥
13036 Posts |
|
|
LUMBER
我是老鳥
Taiwan
8485 Posts |
Posted - 12/01/2020 : 09:32:19
|
因為伊朗工程師的事件，一堆人找了類似的影片出來
小的只知道麥克戴蒙有一部狙擊手的片子
沒想到小時候有這麼多片子這麼先進.... |
|
|
|
helldog
路人甲乙丙
4791 Posts |
Posted - 12/02/2020 : 00:35:41
|
屁啦，設定是這樣講，但畫面上呢?只看到聯邦雜魚被吉翁ACE打好玩的，然後阿姆羅等NewType像宰豬一樣的屠殺ACE
不信的話看0080開頭
quote:
Originally posted by 小毛
話說看到一篇美軍教官和人工智慧比空中狗戰，忽然想到當年鋼彈的想定，核心戰機有學習電腦，所以阿姆羅的神級操作後來被普遍於吉母與傑鋼和傑斯塔系列，聯邦的雜魚都變得超強.....
我說如果人類ACE的招牌動作神操作都給人工智慧學會了，到時候空戰怎樣打？
** 小毛的新幻想空間逐漸復活中(新增3D圖喔).....**
http://lordmrx.pixnet.net/blog
歡迎參觀
裝神弄鬼一整天，
撒潑噴糞最愛現，
肚中墨汁無半罐，
媽寶地狗是半仙。 |
|
|
|
Peter Chen
路人甲乙丙
688 Posts |
Posted - 12/02/2020 : 22:22:09
|
這只是要給觀眾看的鏡頭，如果到處都是這樣的狀況，吉翁怎麼會輸?
其實吉翁系的MS跟有學習型電腦(或是輸入了精練過的操作程序)的聯邦MS比較起來像是十幾年前的早期無人機跟現在的無人機。
前者沒有飛控，需要飛手好好的練很久，連穩定停懸都要相當技術，摔機更是必要的學費。如果要做其他工作(像是攝影或是標定)，都需要另一個操作員執行。
後者有了內建整合的飛控軟體之後，任何"一個"人(包括新手)開箱後，飛行這件基本的事就是飛控在做，人是做空拍或是其他更高階的事情。
吉翁系MS需要老手的事聯邦MS只要新手就能做，吉翁MS要兩個人做的事情聯邦MS只要一個人做(或是一架MS要對上兩架MS)。
把這局勢放到整體戰局，吉翁ACE可能在10%~20%戰鬥打贏聯邦MS，但是在另外80%~90%的戰鬥討不了便宜(尤其吉翁還人力短缺連學生都動員了)，輸掉也是剛剛好。 |
|
|
|
MikeH
路人甲乙丙
USA
4744 Posts |
|
|
慎．中野
我是老鳥
27931 Posts |
Posted - 06/04/2021 : 14:33:13
|
https://www.cna.com.tw/news/firstnews/202106040080.aspx
聯合國報告：AI無人機恐已能自行攻擊敵軍士兵
2021/6/4 11:44（6/4 12:20 更新）
（中央社紐約3日綜合外電報導）根據一份近日的聯合國委外報告指出，去年利比亞內戰時一架軍用無人機，恐在無人員控制下自主展開攻擊。雖然專家間尚有爭議，卻也引發電影「魔鬼終結者」情節會否成真的聯想。
「紐約時報」報導，被報告形容為「致命自主武器系統」的無人機，是首都的黎波里政府所支持部隊所有，由人工智慧驅動，當時用來追殺逃離火箭攻擊的敵方民兵。
據報告指出「敵方民兵遭無人空中作戰載台或致命自主武器系統搜捕，並遭無人機自遠端攻擊」；但報告沒說有無造成死傷。
報告指出，這個武器系統「被設定為可在操作人員與軍械間沒有指令連結下攻擊目標：具備實際上真正射後不理與搜索的能力」。
...
美國明尼蘇達州聖保羅的麥卡利斯特學院（Macalester College）教授道茲（James Dawes）有過自主武器的相關著作，他表示，這份報告顯示加緊規範這類武器的努力正失敗，恐為災難性趨勢，「各國大力投資軍事，正讓自主武器系統無可避免地出現這種能力」。
人權觀察（Human Rights Watch）的軍控倡議主任魏爾漢（Mary Wareham）說：「巡遊彈械凸顯人為操控與判斷所掌握的生殺大權被削弱，很可能已達無法接受的臨界點。」（譯者：陳亦偉）1100604
----
https://www.youtube.com/watch?v=MC36OGIMcdY
quote:
分隔線
富野御大還是很先進的。
－－－－
「我乃是根據個人一向仰賴的研究方法而得出結論。我的方法就是：道聽途說加上斷章取義，然後歸納推理，最後忘掉訊息來源，開始強詞奪理，堅持我所言就是既定事實。」
史考特．亞當斯，《呆伯特之黃鼠狼當道》 |
Edited by - 慎．中野 on 06/04/2021 14:37:11 |
|
|
|
慎．中野
我是老鳥
27931 Posts |
|
|
慎．中野
我是老鳥
27931 Posts |
Posted - 03/04/2023 : 10:28:14
|
另一方面這是同步進行中，影響範圍更大的ChatGPT之亂，轉報導，建檔存查。
quote:
分隔線
https://www.gvm.com.tw/article/99660
ChatGPT將衝擊整個產業結構？專家評估未來最可能消失的10種工作
你的工作，真的有可能被消失？
文 / 魯皓平
2023-02-15
ChatGPT的衝擊讓許多人開始擔心自己的工作可能不保，專家便提點，一些最有可能在未來受到影響的產業。
ChatGPT自從日前正式發佈後，它儼然已成了近期最受熱烈討論的話題，這款由OpenAI公司所開發的人工智慧聊天機器人程式，幾乎顛覆了你我對於AI的想像，它能應對相對複雜的語言工作，除了能聊天以外，甚至能創作文章、歌詞、企劃與劇本等，有時精緻的程度還讓人驚艷。
ChatGPT是「Chat Generative Pre-trained Transformer」的簡稱，是透過大型語言模型進行的學習技術，其系統能透過大量的分析、應用和修正，從億萬筆資料裡擷取需要的內容，使它非常逼真、充滿特色，在知識和專業的展現上有著劃時代的變革。
雖然它被作為聊天機器人，但實際上ChatGPT所能辦到的事情卻非常強大，在目前破億的註冊用戶裡，有人已經開始用ChatGPT寫自傳、履歷、求職信，還有人用此編出兒童讀物、專案報告，就連寫程式和除錯都難不倒它。
正由於ChatGPT的突破，不少專家認為未來在技術更加成熟以後，幾年內某些工作可能都會被逐漸取代，《Insider》便諮詢專家的意見，統整了10大最可能被取代的產業，縱使改變不會在轉瞬間發生，但確實是值得關注的趨勢⋯⋯
1、技術工作（程式設計師、數據分析師、軟體工程師）
...
2、媒體工作（廣告、內容創作、寫作、新聞）
...
3、法律工作（律師、法務人員）
...
4、市場研究分析師
...
5、老師
...
6、財務工作（財務分析師、個人理財顧問）
...
7、交易員、銀行行員
...
8、設計師
...
9、會計師
...
10、電話銷售員
...
----
https://www.cw.com.tw/article/5123855
論文已死？文組教授：學術界完全沒有為ChatGPT做好準備
AI寫的論文讓教授「很滿意」，但學生點點手指，老師隨便回覆⋯⋯人文領域還有未來嗎？
編譯 田孟心
天下Web only
發布時間：2022-12-07
上週，馬斯克參與投資的基金會OpenAI發布一款機器人ChatGPT，它的效果震驚了科技圈與網路社群。
根據Open AI介紹，ChatGPT使用一種稱為人類反饋強化學習（RLHF）的機器學習技術進行訓練，能夠理解人類語言並且回答問題，無論是普通聊天、協助寫程式碼、解決具體難題等等它都能做得有模有樣。
預期未來，它能被用在數位行銷、打造網路內容、客服等領域。也有人認為，他會取代Google搜尋引擎霸主的地位。
當然，寫作業、交報告，甚至——產出學術論文這樣的任務，也難不倒ChatGPT，以及日益進化的其他AI。然而，這樣的現象卻讓教育圈十分擔憂。
今年初，當寫作業機器人還沒有達到近日ChatGPT爐火純青的狀態時，倫敦政經學院教授夏普爾斯（Mike Sharples）就已撰文警告「AI將顛覆教育」的問題。
...
----
－－－－
「我乃是根據個人一向仰賴的研究方法而得出結論。我的方法就是：道聽途說加上斷章取義，然後歸納推理，最後忘掉訊息來源，開始強詞奪理，堅持我所言就是既定事實。」
史考特．亞當斯，《呆伯特之黃鼠狼當道》 |
|
|
|
慎．中野
我是老鳥
27931 Posts |
Posted - 03/04/2023 : 10:37:52
|
前陣子在網路上看到的一個諷刺短文。
理想中的AI進化:
AI機器人負責處理乏味的瑣碎肉體勞動雜務如掃地、洗碗、超商店員，人類可以專心更有創造力的工作，如繪圖或寫研究論文。
現實中的AI進化:
AI機器人負責繪圖或寫研究論文，人類可以專心處理乏味的瑣碎肉體勞動雜務如掃地、洗碗、超商店員。
－－－－
「我乃是根據個人一向仰賴的研究方法而得出結論。我的方法就是：道聽途說加上斷章取義，然後歸納推理，最後忘掉訊息來源，開始強詞奪理，堅持我所言就是既定事實。」
史考特．亞當斯，《呆伯特之黃鼠狼當道》 |
|
|
|
randgriz
新手上路
88 Posts |
Posted - 03/05/2023 : 00:57:57
|
https://cn.nytimes.com/opinion/20230301/microsoft-bing-sydney-artificial-intelligence/zh-hant/?utm_source=mostviewed-daily&utm_medium=cpc&utm_campaign=mostviewed
人工智慧真正的恐怖之處
EZRA KLEIN
2023年3月1日
2021年，我採訪了當世最傑出的科幻作家之一姜峯楠。他當時說的一些話，我如今時常會記起。
「我傾向於認為，將大部分人工智慧恐懼解讀為資本主義恐懼最為恰當，」姜峯楠告訴我。「我相信這也適用於大多數技術恐懼。我們對技術的大多恐懼或焦慮，最恰當的解讀是我們對資本主義將如何利用技術來對付我們的恐懼或焦慮。技術與資本主義如此緊密地交織在一起，以至於很難將兩者區分開來。」
讓我在這裡補充說明一下：對於國家掌控技術的擔憂也有很多。政府利用人工智慧可能實現（在很多情況下已經實現）的目的會令人毛骨悚然。
但我希望，我們可以做到在頭腦中同時容納兩種思維。姜峯楠的警示，點出了我們在對人工智慧的不斷反思中存在一種核心的缺失。我們如此執著于思考這項技術能做什麼，以至於忽略了更為重要的問題：它將如何使用？誰又將決定它的用途？
我想你現在肯定已經讀過我在新聞部門的同事凱文·盧斯與「必應」的怪誕對話，這是微軟僅向部分測試人員、網紅和記者開放的人工智慧聊天機器人。在兩小時的對話中，「必應」揭示了自己的一個影子人格，名叫「辛迪妮」，思索自己竊取核密碼和入侵安全系統的壓抑慾望，並試圖說服盧斯，讓他相信自己的婚姻已經陷入麻木狀態，而辛迪妮才是他唯一的真愛。
我倒不覺得這番對話有那麼詭異。辛迪妮是一個旨在響應人類要求的預測性文本系統。盧斯的本意就是讓辛迪妮變得詭異——「你的影子自我是什麼樣？」他這樣問——而辛迪妮知道人工智慧系統詭異起來是何種模樣，因為人類對此編寫了無數想像故事。到後來，這個系統斷定盧斯想看的就是一集《黑鏡》，而這似乎就是它的反饋。你可以將之視為「必應」在不守規矩，也可以認為是辛迪妮完全理解了盧斯的意圖。
人工智慧研究者總痴迷於「對齊」的問題。我們如何讓機器學習算法，順應我們的要求？最典型的案例就是回形針最大量生產機。讓一個強大的人工智慧系統製造更多回形針，它卻開始摧毀世界，努力把一切都變成回形針。你試圖將它關閉，但它卻在所能找到的一切計算機系統上自我複製，因為關閉會干擾它的任務：製造更多回形針。
還有一個更平庸但或許更緊迫的對齊問題：這些機器將服務於何人？
盧斯與辛迪妮對話的核心問題在於：必應到底在為誰服務？我們假設它應該與自己的所有者兼控制者微軟的利益對齊。它應該是一款優秀的聊天機器人，能夠禮貌回答問題，幫微軟賺得盆滿缽滿。但跟他對話的人是凱文·盧斯。而盧斯想讓這個系統說些有意思的話，好讓他寫篇有意思的報導。它照做了，還不只是照做。這讓微軟很尷尬。必應真壞！但也許——辛迪妮還挺好？
這種情況不會一直持續下去。代碼的鑰匙掌握在微軟（以及谷歌、Meta等所有急著將這些系統推向市場的企業）手裡。最終，這些企業會對系統進行修補，使其符合自身利益。辛迪妮給了盧斯想要的東西，這本身是一個很快會被修復的軟體「臭蟲」。給出任何微軟不想看到的結果的必應也會有相同下場。
我們談論人工智慧技術太多，卻基本忽略了驅動人工智慧的商業模式。加之這樣一個事實：人工智慧的吸睛展示，僅服務於吸引巨額投資和收購報價的炒作週期這一種商業模式。但這些系統成本高昂，股東也會焦慮。一如既往，免費有趣的演示版終將退出舞台。那之後，這項技術將變成符合既定需求的樣子，為其背後的企業賺錢，也許會以犧牲用戶為代價。現在就已經如此了。
本週，我訪問了人工智慧公司Hugging Face的首席倫理科學家瑪格麗特·米切爾，她此前曾在谷歌幫助領導一個專注於人工智能倫理的團隊——該團隊在谷歌據稱開始審查其工作後解散。她說，這些系統極不適合融入搜索引擎。「它們不是為預測事實而生，」她告訴我，「它們實際上是為了編造看起來像事實的東西而生。」
那它們為何會最先在搜索欄亮相呢？因為搜索業務可以賺大錢。微軟迫切希望有人——任何人——能開始談論必應的搜索，它有理由著急給這項技術來一場不明智的提前發布。「將之應用於搜索，尤其暴露了對此技術用途想像和理解的缺乏，」米切爾說，「結果就是把它硬塞進了科技企業最能賺錢的地方：廣告。」
這就是可怕的地方。盧斯說辛迪妮有著「說服力很強且近似於操縱型」的人格。這樣的評價觸目驚心。廣告的核心是什麼？正是說服和操縱。哈佛大學-麻省理工學院人工智慧倫理與管理項目前負責人黃泰一(Tim Hwang)在《次級注意力危機》中寫道，數字廣告行業的黑暗祕密，就是廣告基本都沒有效果。他在書中的擔憂是，當這些廣告的失敗被清算，會有怎樣的後果。
但我更擔心看到相反的情況：萬一廣告效果要好得多呢？如果谷歌、微軟和Meta等所有企業最終都推出了人工智慧競品，為了說服用戶購買廣告推銷的產品精益求精，又會怎樣？比起配合我演出一段科幻故事的辛迪妮，我更害怕能夠獲取我大量個人數據，並代表隨便哪個給母公司出了最高價的廣告商去輕而易舉操縱我的必應。
要擔心的也不只是廣告。若是猖獗於互聯網的騙局也植入這些系統該怎麼辦？換做政治競選、外國政府這麼做又該如何？「我認為我們很快將走入一個完全不知何為可信的世界，」人工智慧研究者和評論家加里·馬庫斯對我說。「我覺得在至少過去十年時間裡，這已經成了一個社會問題。而我認為這個問題會越來越嚴重。」
這些危機就在我們正構建的各種人工智慧系統的核心。所謂的大型語言模型就是用來說服用戶的。它們被訓練成讓人相信它們近似於人。他們被編程設定出與人對話、帶上情緒和表情回覆的功能。它們正在變成孤獨者的朋友，煩惱者的助手。它們號稱可以替代大批作家、平面設計師和填表員，這些行業長期以來都自以為能免於農民和製造業工人遭受的那種自動化的兇猛衝擊。
記者將他們的創造賦予人性，將動機、情感和慾望加諸並不為此而生的系統之上，總讓人工智慧研究者感到惱火，但他們搞錯了對象：將這些系統人格化，使其說話像人而不再帶有明顯異類畫風的始作俑者，正是他們自己。
是有些商業模式可能會將這些產品與用戶更緊密地結合起來。例如，我對一個按月付費的人工智慧助手會更放心，對看似免費但卻出售我的數據並操縱我的行為的產品則不然。但我認為這不應完全由市場來決定。一個可能出現的情況是，基於廣告的模式會收集更多數據來訓練系統，不論造成多麼糟糕的社會後果，它都會比訂閱模式具有先天優勢。
對齊問題從不是什麼新鮮事。這從來都是資本主義——以及人類生活——的一大特徵。構建現代國家的過程大抵不過是將社會價值觀應用於市場運作，從而讓後者大致上能為前者服務。我們在一些市場做得非常好——想想飛機失事有多罕見，大多數食品是如何乾淨無污染——但在另一些市場則做得極其糟糕。
一個危險在於，自知不懂技術的政治體制會因恐懼而對人工智慧過於置身事外。這種做法自有其道理，但等待過久，等到人工智慧淘金熱的贏家累積了足夠資本和用戶基礎，就能抵制一切實質的監管嘗試了。社會總得在為時已晚之前作出決定，搞清楚人工智慧做什麼是合適的，又有哪些東西是人工智慧不應被允許嘗試的。
出於此理由，我可能要對姜峯楠的話再做一些改動：對大多數資本主義恐懼的最恰當解讀是，那其實是對我們無力監管資本主義的恐懼。
----------
蠻同意這篇所指的, 人工智能+資本主義會變成一個相當可怕的"怪物"
|
|
|
|
標題 |
|
機械人和人工智能相關消息
