Re: [討論] 大家會擔心 ai 寫 code 讓工程師飯碗不

看板 Soft_Job
作者 AmosYang (twy30)
時間 2024-11-02 10:14:10
留言 18 ( 6推 0噓 12→ )
回文 10則
※ 引述《angus850503 (安格斯)》之銘言: : 不過之前就一直對生成式 AI 有個疑問 : 就是"幻覺"到底有沒有根本上的解決方法? 目前還沒人能證明「有」,也還沒人能證明「沒有」。 有興趣的話可以追蹤這個「 LLM 幻覺排行榜」: * https://github.com/vectara/hallucination-leaderboard/ * HN 相關討論: https://news.ycombinator.com/item?id=38286761 有興趣可以翻翻這排行榜的 Git 歷史,看看各 LLM 的進化歷程。然而,這排行 榜的評鑑方式也是公開的,各 LLM 也有可能 (不自覺地) 針對這類評鑑方式去優 化,所以這些資料只能做為參考。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 136.61.16.51 (美國) ※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1730513653.A.0A9.html

留言

angus850503 Cool 感謝提供網站 11/02 10:23 1F
shortoneal 竟然還有這種榜 11/02 19:21 2F
abc21086999 我記得昨天才在Reddit上面的OpenAI AMA串看到誰回覆 11/03 01:42 3F
abc21086999 說幻覺很難解決,因為人類也是有同樣的狀況 11/03 01:42 4F
gino0717 雲觀眾也是一種幻覺 11/03 01:46 5F
abc21086999 https://i.imgur.com/772P8fS.png 11/03 01:49 6F
Re: [討論] 大家會擔心 ai 寫 code 讓工程師飯碗不
6F
*感覺上* pattern recognition/matching 的低垂水果已經摘得差不多了;就看資 本/信仰能不能撐到下一個突破口,例如: Detecting hallucinations in large language models using semantic entropy https://news.ycombinator.com/item?id=40769496
※ 編輯: AmosYang (136.61.16.51 美國), 11/03/2024 04:44:24
angus850503 這就是我想詢問的 幻覺沒解決 AI的下一步到底在哪 11/03 13:30 7F
DrTech 幻覺為什麼一定要解決才能做AI產生生產力?不用解決也可以 11/03 15:41 8F
DrTech 啊。不是所有任務都要靠LLM生成不可靠的資訊。例如很多人 11/03 15:41 9F
DrTech 做RAG+QA問答,都無腦用搜候選結果,然後用LLM生成最後答 11/03 15:41 10F
DrTech 案,當然一堆幻覺。架構上改成拿LLM當選擇器,或限定next 11/03 15:41 11F
DrTech tokens,只能輸出選擇1.2.3.4。在多個答案裡面挑一個,最 11/03 15:41 12F
DrTech 後靠程式輸出完全沒關鍵的答案。立刻解決幻覺問題。 11/03 15:41 13F
DrTech LLM當特定task模組(不要拿來當最後輸出結果),結合傳統NLP 11/03 15:44 14F
DrTech 各種解決方案,任何一個功能任務,都可以"完全沒幻覺",能 11/03 15:44 15F
DrTech 力又比傳統NLP強很多。 11/03 15:44 16F
neo5277 樓上這個有專有名詞叫做rerank 我開發系統時有設計 11/03 16:33 17F
Chinwei8562 11/04 14:22 18F

最新文章

[險種] 0歲女新生兒保單規劃
insurance clarejan007
2024-11-23 00:50:03
[交易] 全家蔬食飯糰
e-coupon antijunior
2024-11-23 00:49:49
[險種] 37歲男 既有保單檢視
insurance foreverstyle
2024-11-23 00:39:06
[徵求] 西提餐卷2張
e-coupon sp057259
2024-11-23 00:32:40
[問題] 小額借款
loan sniperxii
2024-11-23 00:23:34
[請益] Offer請益(系統廠測試)
tech_job mcumaple
2024-11-23 00:21:13
[交易] 家樂福電子禮券88折
e-coupon xfile1414
2024-11-23 00:18:43
[標的] 1210 大成
stock aloness
2024-11-23 00:14:33
台北 換中部縣市
firemanlife zczc1212
2024-11-23 00:10:18
[贈送] 吉他,Wii,鍵盤,線材
give ipeter
2024-11-23 00:09:58
[徵女] 混亂的AI科學家
alltogether think93723
2024-11-23 00:05:35
[徵女] 雙北高個 低音男
alltogether j04cj86
2024-11-23 00:01:50
[徵求] 711麵包
e-coupon coffeemant
2024-11-22 23:59:54
Re: [求助] 偽單親之定義?
marriage thozus
2024-11-22 23:56:50