快轉到主要內容

STORM / CO-STORM 多角色合作,給你長文跟思路

STORM 跟 CO-STORM 是史丹佛開發的一個系統,能夠根據你的問題產出長文,並給你心智圖與思考過程!

目前免費使用: https://storm.genie.stanford.edu/


What #

STORM 全名是 “Synthesis of Topic Outlines through Retrieval and Multi-perspective Question Asking”,也就是「用搜尋檢索與多角度提問,造出某主題的大綱」 。可說是個 multi-agent 多智慧代理人系統吧

從產品表面來看,你給他一個主題,他能:

  • 在網路搜尋相關資料
  • 自我對話產生出思考過程給你看
  • 產生 wikipedia 維基百科似的文章給你看,而且是有階層、心智圖的架構
  • 你甚至能加入對話!影響戰局(?)

文章最後附上一些截圖。雖然目前限制還很多,例如只能用英文,主題/提問字數有限制,不能有一些特殊符號。不過,還是強烈建議去他們的網站實際試一試!

How #

框架是先生出大綱(要有哪些段落階層、參考文件等),然後再產生出長文。

他們並不是用 direct prompting 直接叫 LLM 產生內容。他們先產生這主題可以研究的面向、角度,再用 LLM 角色扮演「針對這主題的不同面向角色」, 從不同的角度彼此問答(例如專家、主持人…),佐以網際網路搜尋、history, rerank 等等的技巧,去搭建出一整個系統

有趣的是他們的 prompting 是用 DSPy,也就是用 AI 產生 propmt,而不是工人智慧寫死 prompt,或許能適應更多類的主題

貢獻 #

我自己覺得史丹佛的 STORM / CO-STORM 有兩個很棒的地方

  • Open source + 論文研究,詳細地把怎麼實作一套系統展示出來。不藏招,也不是打高空的概念
  • 就實際應用,對自己的疑問能觀察他們思考的「過程」而不是最後的結論

你可以說概念不新穎,CrewAI 早就有這樣的想法:但是框架 / POC 跟真實的系統還是有很大的差距。

你也可以說 chatgpt.com 也能做到:但是 open source 跟論文詳細把方法分享出來,這比 OpenAI 還 open

操作截圖 #

CO-STORM generates multiple agent and use their conversation to research the topic CO-STORM also shows background discussions The perspectives of agents are specific to the input topic
針對你輸入的主題,CO-STORM AI 產生不同領域的專家,彼此對話思考
You can ask CO-STORM to generate more
CO-STORM 會適時停止眾 AI 對話,你可以控制讓他們是否繼續討論
You can even join their discussion in CO-STORM
在 CO-STORM, 你甚至可以加入 AI 一起討論!
CO-STORM can output a fresh wikipedia-like article CO-STORM can output a mind map
如果只看最終成果,能夠產生出一篇完整論述的文章,還有他思考的心智圖

若您覺得有趣, 請 追蹤我的Facebook 或  Linkedin, 讓你獲得更多資訊!