STORM / CO-STORM 多角色合作,給你長文跟思路
目錄
STORM 跟 CO-STORM 是史丹佛開發的一個系統,能夠根據你的問題產出長文,並給你心智圖與思考過程!
目前免費使用: https://storm.genie.stanford.edu/
What #
STORM 全名是 “Synthesis of Topic Outlines through Retrieval and Multi-perspective Question Asking”,也就是「用搜尋檢索與多角度提問,造出某主題的大綱」 。可說是個 multi-agent 多智慧代理人系統吧
從產品表面來看,你給他一個主題,他能:
- 在網路搜尋相關資料
- 自我對話產生出思考過程給你看
- 產生 wikipedia 維基百科似的文章給你看,而且是有階層、心智圖的架構
- 你甚至能加入對話!影響戰局(?)
文章最後附上一些截圖。雖然目前限制還很多,例如只能用英文,主題/提問字數有限制,不能有一些特殊符號。不過,還是強烈建議去他們的網站實際試一試!
How #
- Stanford 的論文: https://arxiv.org/abs/2402.14207 (STORM), https://www.arxiv.org/abs/2408.15232 (CO-STORM)
- Open source repo: https://github.com/stanford-oval/storm
框架是先生出大綱(要有哪些段落階層、參考文件等),然後再產生出長文。
他們並不是用 direct prompting 直接叫 LLM 產生內容。他們先產生這主題可以研究的面向、角度,再用 LLM 角色扮演「針對這主題的不同面向角色」, 從不同的角度彼此問答(例如專家、主持人…),佐以網際網路搜尋、history, rerank 等等的技巧,去搭建出一整個系統
有趣的是他們的 prompting 是用 DSPy,也就是用 AI 產生 propmt,而不是工人智慧寫死 prompt,或許能適應更多類的主題
貢獻 #
我自己覺得史丹佛的 STORM / CO-STORM 有兩個很棒的地方
- Open source + 論文研究,詳細地把怎麼實作一套系統展示出來。不藏招,也不是打高空的概念
- 就實際應用,對自己的疑問能觀察他們思考的「過程」而不是最後的結論
你可以說概念不新穎,CrewAI 早就有這樣的想法:但是框架 / POC 跟真實的系統還是有很大的差距。
你也可以說 chatgpt.com 也能做到:但是 open source 跟論文詳細把方法分享出來,這比 OpenAI 還 open
操作截圖 #
若您覺得有趣, 請
追蹤我的Facebook 或
Linkedin,
讓你獲得更多資訊!