Thinking Machines 推出首款 Open Model:Inkling 挑戰通用化 AI 模型限制
文章摘要
Thinking Machines Lab 推出首款開源模型 Inkling,旨在突破通用化 AI 的限制。Inkling 採用 9750 億參數的混合專家系統,可處理文字、圖像、音訊和影片,並能原生進行跨模態推理,儘管目前僅限文字輸出。其主要功能是提供校準的回答,能標記不確定性,並允許用戶調整「思考力」以權衡速度。相較於 NVIDIA Nemotron 3 Ultra,Inkling 在同等程式碼性能下,可節省三分之一的 token 使用量。
Inkling 的目標使用者為企業,作為 Tinker 模型客製化平台的起點,讓組織能夠自行微調。此舉解決了通用化 AI 模型適用性不足的問題,並響應了對閉源模型隱私和成本疑慮的擔憂。
Inkling 的重要性在於驗證了「可適應性 AI」的潛力,對比 OpenAI、Anthropic 等公司的閉源模型,Inkling 提供了一個可由企業自行塑型的替代方案,有望提升 AI 應用的效率與安全性。
然而,Inkling 並非當前最強的 AI 模型,且模型客製化需要專業人才,責任也由客戶自行承擔。
Inkling 的目標使用者為企業,作為 Tinker 模型客製化平台的起點,讓組織能夠自行微調。此舉解決了通用化 AI 模型適用性不足的問題,並響應了對閉源模型隱私和成本疑慮的擔憂。
Inkling 的重要性在於驗證了「可適應性 AI」的潛力,對比 OpenAI、Anthropic 等公司的閉源模型,Inkling 提供了一個可由企業自行塑型的替代方案,有望提升 AI 應用的效率與安全性。
然而,Inkling 並非當前最強的 AI 模型,且模型客製化需要專業人才,責任也由客戶自行承擔。
AI 大叔解析
【新聞懶人包】
由前 OpenAI CTO 創立的 Thinking Machines Lab,推出了其首款開放權重 AI 模型 Inkling。這款 9750 億參數的 MoE 架構模型,每次任務只用 410 億參數,主打客製化與高效率,挑戰 OpenAI 等大廠「一體適用」的閉源通用模型策略。公司雖稱 Inkling 並非最強,但在編碼性能上宣稱只需 NVIDIA Nemotron 3 Ultra 約三分之一的 tokens。雖有 Bridgewater 案例佐證客製化模式兼顧成本與效能,但新聞也點出,微調模型需要「頂尖的機器學習人才」,這可能是該策略推廣的一大門檻。
【主戰場】
AI模型與演算法
【真正主訊號】
名稱:開放權重、強調客製化與運算效率的多模態 AI 模型 Inkling 正式問世,挑戰主流通用模型市場。
證據等級:確鑿(新聞發布、具體模型參數與架構、訓練數據、效能宣稱與商業模式)。
原因:Inkling 不僅提供原始模型權重供下載修改,更設計成 MoE 架構以提升運算效率(9750 億總參數,每次任務僅用 410 億參數),並著重在企業可透過「Tinker」平台進行深度客製化微調,直接挑戰 OpenAI 等大廠的通用型閉源模型策略。這代表了 AI 模型市場一種潛在的典範轉移。
【以前卡哪?現在卡哪?】
以前卡哪:企業在使用通用大模型時,往往面臨「一體適用」無法完全貼合業務需求,以及長期訂閱成本與數據被平台吸收的雙重壓力。這些閉源模型讓企業難以真正掌握其核心 AI 資產,且在特定領域的表現不見得最佳,加上運行成本通常不透明。
現在卡哪:Thinking Machines 提供的開放權重與客製化路線雖然看似解放,但其商業模式高度依賴企業「自行微調」模型。這表示企業必須擁有「足夠的機器學習專業人才 (serious machine-earning talent)」來進行模型客製化與後續的安全驗證,這對大多數企業來說是一道不低的技術門檻。
【真正關鍵】
名稱:企業端缺乏具備模型微調能力的頂尖 AI 人才。
原因:Inkling 雖宣稱能降低運行成本,並透過微調達到更好的特定領域表現(如 Bridgewater 案例),但新聞中明確指出「Fine-tuning requires serious machine-earning talent.」這句話直接點出,如果企業本身沒有足夠的 ML 專業團隊,Inkling 的「開放微調」優勢就形同虛設,根本無法落地,反而把技術門檻從供應商端轉嫁到客戶端。
【另外兩個重點】
1. **AI 模型開發週期大幅壓縮:** Thinking Machines 宣稱僅用約九個月就將其技術推向市場並產生潛在營收,相較於 OpenAI 的五年與 Anthropic 的三年,這顯示 AI 基礎模型開發的效率可能正透過更好的工程實踐與算力利用(如與 Nvidia 的合作)加速。
2. **開放模型與閉源模型的成本與數據策略之爭:** 微軟執行長 Satya Nadella 和 Hugging Face CEO Clem Delangue 都提到,企業使用閉源模型可能要支付雙重成本(訂閱費與業務知識被吸收),預示未來大多數生產級 AI 工作將轉向私有或開源模型。Inkling 的發布正是這一趨勢的具體實踐,為企業提供了另一種可控成本且數據自主的選擇。
【重要程度】
★★★★☆
【毒舌吐槽】
「開放權重,讓你下載自己改!」這話聽起來很爽對吧?但別忘了,新聞裡面自己都寫了:「微調這東西,可是要『serious machine-earning talent』。」講白了,這不就是把「模型客製化」這個燙手山芋丟給客戶自己處理嗎?企業用戶拿到原始碼,沒有強大的 MLOps 團隊,就像拿到一堆樂高積木卻沒說明書跟設計圖,最後還是堆不出什麼東西,搞不好還出安全問題要自己負責。公司強調「九個月就搞定」,速度確實快,但成本跟營收都還說不清,資金來源也是「曾經傳出 500 億美元募資但後來停滯」,這數字聽起來就跟某些新創畫大餅一樣,很香,但到底能不能入口?得打個大問號。
【為什麼重要?】
- **系統影響:** 這款 Inkling 模型採用的 MoE (Mixture-of-Experts) 架構,雖然不是新東西,但能讓 9750 億總參數的模型在每次任務只啟動約 410 億參數,大幅降低 inference (推論) 階段的 Latency (延遲) 和運算成本。這對需要快速回應、頻繁調用的企業級應用來說是個福音。而且它原生支援多模態輸入(文本、圖像、音訊、視訊),雖然目前輸出限於文本,但這種設計本身就為未來的多模態應用預留了彈性,減少了企業在整合不同模態時的技術債。
- **成本或能力變化:** 新聞提到 Inkling 在編碼性能上,只需要 NVIDIA Nemotron 3 Ultra 三分之一的 tokens (標記) 就能達到同等效果,這代表在 Inference 階段能顯著降低 API 費用或 GPU 運算資源消耗,直接打到企業導入 AI 的痛點——成本。如果這個效率數據夠可靠,對算力需求龐大的企業用戶來說,這能力變化是實實在在的「省錢」。 Bridgewater 案例更證明,透過特定領域的微調,成本可降至專有模型的 1/14,同時性能超越。然而,這也把「模型微調」的能力門檻從模型供應商轉嫁給了使用者,意味著企業需要投入更多資源來建立或招募 AI 團隊。
- **苦主與爽主:**
* **爽主:** 那些手上握有大量數據且具備強大 ML 團隊的企業,尤其是如 Bridgewater 這種有深厚領域知識的金融機構,他們現在能以更低的成本(甚至 1/14)訓練出專屬、高效且能高度掌握風險的 AI 模型。NVIDIA 也是爽主,Thinking Machines 採用了它的 GB300 NVL72 系統並部署 gigawatt 級算力,這實實在在地推動了其高階 GPU 的出貨與應用場景。
* **苦主:** 缺乏 ML 專業人才、又想搭上 AI 客製化列車的中小型企業,可能會發現「開放權重」的甜頭吃不到,因為他們沒有能力去微調、部署與維護這些模型,最終仍會卡在人才和技術門檻上。那些堅持「一體適用」閉源模型,且未能有效降低推理成本的大型 AI 實驗室,也可能在面對這種高效率、低成本且客製化彈性強的開放模型時,承受一定的市場壓力。
【實戰建議】
動作:企業應立即評估內部 AI/ML 團隊的能力現況與未來招聘計畫。
對象:所有考慮導入或擴大 AI 應用的企業高層與技術主管。
【一句話總結】
Inkling 以開放權重與高效客製化挑戰通用 AI 模型,但企業需自備頂尖 AI 人才才能駕馭,否則只是空談。
【逆風觀點】
新聞提到 Inkling 訓練時部分使用了其他開放權重模型的輸出進行「distillation」(蒸餾),雖然公司宣稱下一代會完全自給自足,但這仍引發版權與數據來源的疑慮。尤其在企業高度關注資料合規性的今天,這種「部分」使用其他模型輸出的做法,可能會讓部分保守企業對其商用化部署持觀望態度,因為潛在的法律風險,比模型效能可能更讓人頭痛。
由前 OpenAI CTO 創立的 Thinking Machines Lab,推出了其首款開放權重 AI 模型 Inkling。這款 9750 億參數的 MoE 架構模型,每次任務只用 410 億參數,主打客製化與高效率,挑戰 OpenAI 等大廠「一體適用」的閉源通用模型策略。公司雖稱 Inkling 並非最強,但在編碼性能上宣稱只需 NVIDIA Nemotron 3 Ultra 約三分之一的 tokens。雖有 Bridgewater 案例佐證客製化模式兼顧成本與效能,但新聞也點出,微調模型需要「頂尖的機器學習人才」,這可能是該策略推廣的一大門檻。
【主戰場】
AI模型與演算法
【真正主訊號】
名稱:開放權重、強調客製化與運算效率的多模態 AI 模型 Inkling 正式問世,挑戰主流通用模型市場。
證據等級:確鑿(新聞發布、具體模型參數與架構、訓練數據、效能宣稱與商業模式)。
原因:Inkling 不僅提供原始模型權重供下載修改,更設計成 MoE 架構以提升運算效率(9750 億總參數,每次任務僅用 410 億參數),並著重在企業可透過「Tinker」平台進行深度客製化微調,直接挑戰 OpenAI 等大廠的通用型閉源模型策略。這代表了 AI 模型市場一種潛在的典範轉移。
【以前卡哪?現在卡哪?】
以前卡哪:企業在使用通用大模型時,往往面臨「一體適用」無法完全貼合業務需求,以及長期訂閱成本與數據被平台吸收的雙重壓力。這些閉源模型讓企業難以真正掌握其核心 AI 資產,且在特定領域的表現不見得最佳,加上運行成本通常不透明。
現在卡哪:Thinking Machines 提供的開放權重與客製化路線雖然看似解放,但其商業模式高度依賴企業「自行微調」模型。這表示企業必須擁有「足夠的機器學習專業人才 (serious machine-earning talent)」來進行模型客製化與後續的安全驗證,這對大多數企業來說是一道不低的技術門檻。
【真正關鍵】
名稱:企業端缺乏具備模型微調能力的頂尖 AI 人才。
原因:Inkling 雖宣稱能降低運行成本,並透過微調達到更好的特定領域表現(如 Bridgewater 案例),但新聞中明確指出「Fine-tuning requires serious machine-earning talent.」這句話直接點出,如果企業本身沒有足夠的 ML 專業團隊,Inkling 的「開放微調」優勢就形同虛設,根本無法落地,反而把技術門檻從供應商端轉嫁到客戶端。
【另外兩個重點】
1. **AI 模型開發週期大幅壓縮:** Thinking Machines 宣稱僅用約九個月就將其技術推向市場並產生潛在營收,相較於 OpenAI 的五年與 Anthropic 的三年,這顯示 AI 基礎模型開發的效率可能正透過更好的工程實踐與算力利用(如與 Nvidia 的合作)加速。
2. **開放模型與閉源模型的成本與數據策略之爭:** 微軟執行長 Satya Nadella 和 Hugging Face CEO Clem Delangue 都提到,企業使用閉源模型可能要支付雙重成本(訂閱費與業務知識被吸收),預示未來大多數生產級 AI 工作將轉向私有或開源模型。Inkling 的發布正是這一趨勢的具體實踐,為企業提供了另一種可控成本且數據自主的選擇。
【重要程度】
★★★★☆
【毒舌吐槽】
「開放權重,讓你下載自己改!」這話聽起來很爽對吧?但別忘了,新聞裡面自己都寫了:「微調這東西,可是要『serious machine-earning talent』。」講白了,這不就是把「模型客製化」這個燙手山芋丟給客戶自己處理嗎?企業用戶拿到原始碼,沒有強大的 MLOps 團隊,就像拿到一堆樂高積木卻沒說明書跟設計圖,最後還是堆不出什麼東西,搞不好還出安全問題要自己負責。公司強調「九個月就搞定」,速度確實快,但成本跟營收都還說不清,資金來源也是「曾經傳出 500 億美元募資但後來停滯」,這數字聽起來就跟某些新創畫大餅一樣,很香,但到底能不能入口?得打個大問號。
【為什麼重要?】
- **系統影響:** 這款 Inkling 模型採用的 MoE (Mixture-of-Experts) 架構,雖然不是新東西,但能讓 9750 億總參數的模型在每次任務只啟動約 410 億參數,大幅降低 inference (推論) 階段的 Latency (延遲) 和運算成本。這對需要快速回應、頻繁調用的企業級應用來說是個福音。而且它原生支援多模態輸入(文本、圖像、音訊、視訊),雖然目前輸出限於文本,但這種設計本身就為未來的多模態應用預留了彈性,減少了企業在整合不同模態時的技術債。
- **成本或能力變化:** 新聞提到 Inkling 在編碼性能上,只需要 NVIDIA Nemotron 3 Ultra 三分之一的 tokens (標記) 就能達到同等效果,這代表在 Inference 階段能顯著降低 API 費用或 GPU 運算資源消耗,直接打到企業導入 AI 的痛點——成本。如果這個效率數據夠可靠,對算力需求龐大的企業用戶來說,這能力變化是實實在在的「省錢」。 Bridgewater 案例更證明,透過特定領域的微調,成本可降至專有模型的 1/14,同時性能超越。然而,這也把「模型微調」的能力門檻從模型供應商轉嫁給了使用者,意味著企業需要投入更多資源來建立或招募 AI 團隊。
- **苦主與爽主:**
* **爽主:** 那些手上握有大量數據且具備強大 ML 團隊的企業,尤其是如 Bridgewater 這種有深厚領域知識的金融機構,他們現在能以更低的成本(甚至 1/14)訓練出專屬、高效且能高度掌握風險的 AI 模型。NVIDIA 也是爽主,Thinking Machines 採用了它的 GB300 NVL72 系統並部署 gigawatt 級算力,這實實在在地推動了其高階 GPU 的出貨與應用場景。
* **苦主:** 缺乏 ML 專業人才、又想搭上 AI 客製化列車的中小型企業,可能會發現「開放權重」的甜頭吃不到,因為他們沒有能力去微調、部署與維護這些模型,最終仍會卡在人才和技術門檻上。那些堅持「一體適用」閉源模型,且未能有效降低推理成本的大型 AI 實驗室,也可能在面對這種高效率、低成本且客製化彈性強的開放模型時,承受一定的市場壓力。
【實戰建議】
動作:企業應立即評估內部 AI/ML 團隊的能力現況與未來招聘計畫。
對象:所有考慮導入或擴大 AI 應用的企業高層與技術主管。
【一句話總結】
Inkling 以開放權重與高效客製化挑戰通用 AI 模型,但企業需自備頂尖 AI 人才才能駕馭,否則只是空談。
【逆風觀點】
新聞提到 Inkling 訓練時部分使用了其他開放權重模型的輸出進行「distillation」(蒸餾),雖然公司宣稱下一代會完全自給自足,但這仍引發版權與數據來源的疑慮。尤其在企業高度關注資料合規性的今天,這種「部分」使用其他模型輸出的做法,可能會讓部分保守企業對其商用化部署持觀望態度,因為潛在的法律風險,比模型效能可能更讓人頭痛。