Skip to content

如何使用 Cloudflare 免費部署 700 億參數的 Llama 3.3 模型

  • by
想體驗大模型卻受限於電腦性能?
在本地部署像 Llama 等模型時,通常只能運行較小規模的模型,如 1.5B(15 億參數)、7B(70 億參數)或 14B(140 億參數),因為更大的模型對硬體要求極高。
現在,您可以利用 Cloudflare Workers AI 在線部署 700 億參數的 Llama 3.3 大模型,並通過公開網址訪問。該服務的 API 接口相容於 OpenAI,讓您像使用 OpenAI API 一樣便捷。如果有興趣,不妨試試看!
如何使用 Cloudflare 免費部署 700 億參數的 Llama 3.3 模型

[生活記事] 2024-0050

  • by

▌DeepSeek V3系列文

今天股癌的 podcast 也分析 DeepSeek V3 對產業可能的衝擊,它有可能會減緩甚至中止目前各大公司在 AI 硬體投資的軍備競賽,屆時對走在前端的硬體製造商以及CSP會有影響。畢竟 DeepSeek V3 是開源的 LLM, 赤裸裸地展示如何用不到 10% 的成本做出對標 Llama 3 的成果,對相關廠商一定會造成壓力。

[生活記事] 2024-0050

[生活記事]2025-0001

  • by

2025 年伊始,用不可思議的低價租用了一年 $32.5 美金左右的 VPS, 包含 2CPU/3.5GRAM/65G SSD。足夠滿足我的個人需求,還多了很多算力。所以就花了一些時間在折騰新網站,也可以自己搞一些 AI 小服務。

[生活記事]2025-0001

[旅遊生活] 華盛頓特區希爾頓華爾道夫酒店

  • by

2024年八月利用希爾頓免費住房券入住華爾道夫華盛頓特區酒店。

華爾道夫華盛頓特區酒店位於賓夕法尼亞大道,位於美國郵局前總部內,該建築建於1892年至1899年之間,並於1973年被列入國家史蹟名錄, 距離白宮不到一英里,擁有一座鐘樓和觀景台,是華盛頓特區第三高的建築, 於 2022 年加入希爾頓集團,在之前一直以特朗普國際酒店華盛特區的名義運營

[旅遊生活] 華盛頓特區希爾頓華爾道夫酒店