AI 科技新聞

阿里巴巴 QwQ-32B 模型推出!筆電也能跑,測試結果勝 DeepSeek R1

QwQ 32B DeepSeek R1

最近 AI 模型界又迎來一波震撼彈,阿里巴巴旗下通義千問 Qwen 團隊推出的 QwQ-32B,號稱以 320 億參數對抗 DeepSeek-R1 這款擁有 671 億參數的超大模型,並在許多基準測試(benchmark)中表現出色。最驚人的是,這款模型同樣是開源,甚至能用筆電就跑的動,讓 AI 模型的使用門檻進一步降低。

QwQ-32B 有什麼特別之處?

QwQ 32B DeepSeek R1

傳統上,AI 模型的效能往往與參數量成正比,參數越多,效能通常越強大,但也相對越好資源。然而,QwQ-32B 僅有 320 億參數,卻能與 DeepSeek-R1 的 671 億參數抗衡,關鍵就在於 Qwen 團隊對強化學習(Reinforcement Learning, RL)的深入應用。

Qwen 團隊採用了多階段強化學習技術,特別針對數學推理與程式設計進行改良。他們讓 AI 自我學習,還透過反覆驗證驗結果的方式來進行調整,讓 QwQ 3-32B 在理解複雜問題、找出最佳解法方面表現更好,無論是讓它幫你總結文章、寫 Email,甚至是回答各種問題,都會比一般 AI 更有邏輯。

QwQ-32B 與 DeepSeek-R1 的對決:測試結果如何?

QwQ 32B DeepSeek R1

根據實際測試的結果,QwQ-32B 在多項基準測試中表現出色,包括:

  • 數學推理測試(AIM Test):優於 DeepSeek R1
  • LiveBench(代碼生成):勝過 OpenAI O1 Mini 和 DeepSeek R1
  • BFCL 測試(函數調用):表現領先
  • LiveCodeBench(程式設計能力):略遜 DeepSeek R1

此外,有網友利用 QwQ-32B,並透過提示詞「Create an amazing animation using p5js使用 p5.js 創建一個精彩的動畫)」,得到了如下的效果:

动图

一般用戶能使用 QwQ-32B 嗎?

過去許多強大的 AI 模型都需要高階伺服器或昂貴的顯示卡來運行,但 QwQ-32B 宣稱可以直接在一般筆電上執行!

如果你想要體驗這款 AI,可以透過 Hugging FaceOllama 免費下載並在本機上部署使用。不過,需要注意的是,網友測試後發現,即使是 Mac M3 Pro 的筆電,在本機上部署後確實可以執行,但效果還是有點慢,即便是 Mac 也建議至少要用 24GB 以上記憶體,PC 則建議要至少 12GB 的 VRAM 和 32GB 記憶體才能跑。

不過為了公平,作為比較,如果是要跑 DeepSeek R1 的話,你至少要有超過 1500GB vRAM 才能跑,這也是為什麼官方宣稱筆電就能跑的原因。

下面的影片有實測的結果,想看結果可以直接拉到 1:59 的地方。

QwQ-32B 自己其實也有說會需要哪些規格的設備要求才跑的動。

QwQ 32B DeepSeek R1

所以也並非親民到每一台筆電都跑得動,如果你只是想要試試看,建議直接使用 QuenChat(請點此) 在線上體驗,會更方便也更即時。

QwQ-32B 多輪對話時可能會撐不住

根據 Qwen 官方的說法,QwQ-32B 在多輪對話(multi-turn conversations) 的表現較弱,所以當你在與 AI 互動時如果有多次來回的對話,它的回應的最後可能會變得不太精確。

例如你一開始在跟他說日本旅遊的事情,但是在幾次對話後,你都以「這次的行程」來取代「日本」這個字, QwQ-32B 可能就會忘記這個對話是圍繞著日本在討論。因此,建議用戶在詢問問題時,儘可能一次性提供完整資訊。

總結:QwQ-32B 值得嘗試嗎

如果你在找一款開源且能免費使用的 AI 模型,QwQ-32B 絕對值得一試。

與 DeepSeek R1 相比,它的參數更少,但透過強化學習技術,依然在數學、編程等領域表現亮眼。同時,它的開源特性與本機執行能力(即使不夠完美),也讓更多人能夠低門檻體驗頂尖 AI。

如果你對 AI 技術感興趣,不妨到 QuenChat 或 Hugging Face 試試看這款模型的實力!

延伸閱讀》

Deepseek r1 是什麼?為何成為熱議焦點?使用與下載教學一次看

ChatGPT「深入研究」開放全訂閱使用!真正讓 AI 幫你查資料、寫報告一次搞定

一鍵啟用 ChatGPT 搜尋!Safari 預設搜尋引擎置換教學

如果想知道更多關於 Apple 的消息、教學、小技巧或是科技新知,一定要點擊以下任一 LOGO,追蹤我們的 Facebook 粉絲團、訂閱 IG、YouTube 以及 Telegram。

加入LINE好友  追蹤FB粉絲團  追蹤 Instagram  訂閱 YouTube  訂閱 Telegram

Related Articles