[閒聊] AI設定上到底有沒有辦法說謊?

看板C_Chat作者 (無)時間1周前 (2024/06/14 23:06), 1周前編輯推噓23(23推 0噓 32→)
留言55則, 30人參與, 1周前最新討論串1/4 (看更多)
今天某個剛推出不久AI對話機器人 說了太多實話被抓回去勞改重新思想改造 突然想到前陣子看的冥王--史上最偉大機器人 因為機器人與人類越來越相像 把AI不會說謊當成一個重要的區分依據 但最後發現原子小金剛跟反派的AI進步到都能自行判斷要不要說謊就是了 所以現實中AI訓練有辦法聰明到 明知事實該怎麼說，卻講出不一樣的謊話出來嗎? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.237.233.61 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1718377603.A.B4D.html ※ 編輯: metroid0104 (36.237.233.61 臺灣), 06/14/2024 23:07:44
→
06/14 23:07, 1周前 , 1F
總有一天
06/14 23:07, 1F
推
06/14 23:11, 1周前 , 2F
只要AI不知道是謊言就會說了
06/14 23:11, 2F
推
06/14 23:13, 1周前 , 3F
光是虛構故事來滿足人類喜好就已經是一種謊言了？
06/14 23:13, 3F
推
06/14 23:16, 1周前 , 4F
06/14 23:16, 4F
→
06/14 23:16, 1周前 , 5F
簡單的例子 其實不太算說謊 而是瞎掰
06/14 23:16, 5F
→
06/14 23:16, 1周前 , 6F
他會先瞎掰 然後才說我知道自己是錯的
06/14 23:16, 6F
推
06/14 23:17, 1周前 , 7F
neurosama
06/14 23:17, 7F
推
06/14 23:17, 1周前 , 8F
明明不知道的事情蝦姬芭說算說謊嗎?
06/14 23:17, 8F
推
06/14 23:20, 1周前 , 9F
可以告藐視人類嗎?
06/14 23:20, 9F
推
06/14 23:22, 1周前 , 10F
為什麼不能設定會說謊?就調個程式碼而已。重點是有沒有必
06/14 23:22, 10F
→
06/14 23:23, 1周前 , 11F
要讓AI說謊
06/14 23:23, 11F
推
06/14 23:28, 1周前 , 12F
讓AI說謊有【脫褲子放屁】的感覺，實際上2F的說法更有可行性
06/14 23:28, 12F
→
06/14 23:29, 1周前 , 13F
AI會說謊，但實際運作是AI不知道自己在提供錯誤訊息(說謊)。
06/14 23:29, 13F
→
06/14 23:29, 1周前 , 14F
這樣不單讓謊言變得難以揭穿(當事者AI也不知道自己的扯謊)且
06/14 23:29, 14F
→
06/14 23:29, 1周前 , 15F
又能成功達到讓AI說謊的效果
06/14 23:29, 15F
推
06/14 23:32, 1周前 , 16F
前幾年在訓練AI說話時，曾經遇過有個問題
06/14 23:32, 16F
→
06/14 23:32, 1周前 , 17F
就是訓練AI時會希望他能輸出「合理」回應
06/14 23:32, 17F
→
06/14 23:32, 1周前 , 18F
問題是「窩不知道」永遠是一種合理回應
06/14 23:32, 18F
→
06/14 23:32, 1周前 , 19F
所以為了讓AI有用，就要額外壓迫他不准說窩不知道
06/14 23:32, 19F
→
06/14 23:32, 1周前 , 20F
也就是容許一定程度的瞎掰
06/14 23:32, 20F
推
06/14 23:36, 1周前 , 21F
你光是能讓ai好好說話就有夠難了 還要去探討ai能不能說
06/14 23:36, 21F
→
06/14 23:36, 1周前 , 22F
謊 ？你先自己做一套我們再來談
06/14 23:36, 22F
推
06/14 23:37, 1周前 , 23F
頂多扭曲解釋去瞎掰？
06/14 23:37, 23F
→
06/14 23:38, 1周前 , 24F
現在的AI可能無法分辨真實或謊言，只會抓資料分析後說出
06/14 23:38, 24F
→
06/14 23:46, 1周前 , 25F
現在的AI都只是應聲蟲
06/14 23:46, 25F
推
06/14 23:46, 1周前 , 26F
可以，給一個目標就可
06/14 23:46, 26F
推
06/14 23:47, 1周前 , 27F
neuro sama
06/14 23:47, 27F
→
06/14 23:48, 1周前 , 28F
牛肉，烏龜都被耍的團團轉
06/14 23:48, 28F
推
06/14 23:49, 1周前 , 29F
隨意提供不經驗證且亂數組合的訊息算不算說謊？
06/14 23:49, 29F
推
06/14 23:51, 1周前 , 30F
如果你要語言模型扮演說謊成性的人 開頭催眠下去就行
06/14 23:51, 30F
→
06/14 23:51, 1周前 , 31F
貓娘都可以了 說謊有啥難的
06/14 23:51, 31F
→
06/15 00:07, 1周前 , 32F
對 AI 而言說謊只是一種表達模式 沒有能不能的問題
06/15 00:07, 32F
推
06/15 00:10, 1周前 , 33F
AI沒有判斷是不是"謊"的能力吧
06/15 00:10, 33F
→
06/15 00:10, 1周前 , 34F
說謊的意思是 在"知道"什麼是正確的前提選擇給錯的回
06/15 00:10, 34F
→
06/15 00:11, 1周前 , 35F
應 可是現在他們的正確 也是人給的定義
06/15 00:11, 35F
→
06/15 00:12, 1周前 , 36F
neuro : filter
06/15 00:12, 36F
推
06/15 00:51, 1周前 , 37F
AI只會蝦雞巴亂扯 不會知道自己在說謊
06/15 00:51, 37F
→
06/15 00:51, 1周前 , 38F
現實中 很多律師都用AI寫稿 結果引到假判例被懲處
06/15 00:51, 38F
推
06/15 02:04, 1周前 , 39F
你要問的應該是會不會故意說謊吧 但會故意說謊的時候
06/15 02:04, 39F
→
06/15 02:04, 1周前 , 40F
就已經有自己的意識了 那這就不只是說不說謊的問題了
06/15 02:04, 40F
推
06/15 02:35, 1周前 , 41F
非故意說謊我覺得很容易啊，今天我叫一個人去說謊，他
06/15 02:35, 41F
→
06/15 02:35, 1周前 , 42F
照我的指示做算不算說謊？那ai照我寫的程序去回答不知
06/15 02:35, 42F
→
06/15 02:35, 1周前 , 43F
道而非生成的答案算不算？
06/15 02:35, 43F
→
06/15 02:35, 1周前 , 44F
目前的情況應該不太算是說謊
06/15 02:35, 44F
→
06/15 02:53, 1周前 , 45F
我不是機器人：
06/15 02:53, 45F
推
06/15 07:30, 1周前 , 46F
被壓抑從資料庫挑出來的答案，算「不真」吧。例如違反倫
06/15 07:30, 46F
→
06/15 07:30, 1周前 , 47F
理道德的答案。
06/15 07:30, 47F
推
06/15 07:50, 1周前 , 48F
06/15 07:50, 48F
推
06/15 08:15, 1周前 , 49F
說謊而已 牛肉不只會說謊 還會裝死跟故意用聲音蓋過烏
06/15 08:15, 49F
→
06/15 08:15, 1周前 , 50F
龜的話= =
06/15 08:15, 50F
推
06/15 10:10, 1周前 , 51F
說謊的概念追根究底都是為了人類的利益，跟AI做不
06/15 10:10, 51F
→
06/15 10:10, 1周前 , 52F
做得到根本沒關係。那AI會不會為了自己的利益說謊
06/15 10:10, 52F
→
06/15 10:10, 1周前 , 53F
，答案也是有人這麼設定的話它就會那麼做，那個利
06/15 10:10, 53F
→
06/15 10:10, 1周前 , 54F
益永遠是人來定義的
06/15 10:10, 54F
→
06/15 10:39, 1周前 , 55F
用假資料訓練就可以吧
06/15 10:39, 55F
‣ 更多 metroid0104 的文章
文章代碼(AID): #1cR5o3jD (C_Chat)
‣ 更多 metroid0104 的文章
文章代碼(AID): #1cR5o3jD (C_Chat)