沒(méi)有想到寫(xiě)了那么多 DeepSeek 如何厲害、如何好用之后,忽然間回到初心,寫(xiě)一寫(xiě)怎么才能「用上」。 最近 DeepSeek 官方服務(wù)的情況,大家也知道,非常不穩(wěn)定;局荒苤我惠唽(duì)話(huà),多問(wèn)一句就服務(wù)器繁忙,或者卡著跑不出來(lái)。于是慕名而來(lái)的用戶(hù)們,只能滿(mǎn)大街地找其它渠道。 真是令人想起了當(dāng)年 GPT 剛出時(shí),滿(mǎn)世界打游擊的盛況啊。 類(lèi)比于游戲,大模型的服務(wù)也可以簡(jiǎn)單地分為官服和渠道服。當(dāng)然還有 API,但如果官方卡得一塌糊涂,API 也就只能想想。 還有一種解決卡頓的「終極」方案:本地部署。已經(jīng)安排技術(shù)部同事 kuku 一頓測(cè)試,馬上就能端上來(lái)。 與此同時(shí),越來(lái)越多的「渠道服」正在快速跟上,作為對(duì)官方服務(wù)的補(bǔ)充。這些渠道服各有各的優(yōu)劣,我們收集了一些并小測(cè)了使用體驗(yàn)。 硅基流動(dòng):價(jià)格好、選擇多 目前比較熱門(mén)的渠道服,注冊(cè)即送 2000 萬(wàn)的 tokens。目前 SiliconCloud 正在做活動(dòng),通過(guò)邀請(qǐng)碼注冊(cè),兩邊都可以獲得 2000 萬(wàn)的 tokens。 一時(shí)間,社交媒體上網(wǎng)友默默不語(yǔ),只一昧發(fā)邀請(qǐng)碼。 硅基流動(dòng)提供的模型選項(xiàng)很多,其中不乏低價(jià)乃至免費(fèi)的。 看上去 tokens 是不愁了,不過(guò)使用起來(lái)要繞一點(diǎn)。硅基流動(dòng)有自己的體驗(yàn)中心有文本對(duì)話(huà)的窗口。 但不太好用,還有一種方法是搭配 Chatbox:借硅基流動(dòng)生成 API,貼到 Chatbox 里。后者是一個(gè)搭建得比較完整的對(duì)話(huà) bot,前者的個(gè)性化空間更多一點(diǎn)。實(shí)際上,只要你能連得上 DeepSeek 的開(kāi)放中心后臺(tái),且賬號(hào)里有余額,也可以直接從官服生成 API。 老實(shí)講目前借助 API 的供應(yīng),都是不太穩(wěn)定的。而且 DeepSeek 已經(jīng)暫停了 API 服務(wù)充值。 新賬號(hào)有 10RMB 的贈(zèng)送余額,怎么說(shuō)呢,也可以用,但就是不太經(jīng)造。我注冊(cè)了 Chatbox 之后,一直在碰到吞答案的情況。雖然賬單看也就花了幾分錢(qián),但花了 tokens 卻什么都沒(méi)看到,很浪費(fèi)時(shí)間。 Groq:主打一個(gè)「快」字 是一個(gè)專(zhuān)門(mén)收集推理型開(kāi)源大模型的集成平臺(tái),使用針對(duì) AI 語(yǔ)言和推理的 LPU,主打一個(gè)「快」。 好處是真的快,非?欤@也是它們引以為豪的一點(diǎn),甚至?xí)秧憫?yīng)速度標(biāo)記出來(lái)。 Groq 沒(méi)有引入滿(mǎn)血 R1,不過(guò) 70b 的蒸餾版,普通使用夠了,適合一些短平快的任務(wù),比如翻譯、一些簡(jiǎn)單的生成。 不過(guò),Groq 不是百分之一百的穩(wěn)定,也會(huì)有宕機(jī)的情況。 Groq 這個(gè)渠道,是簡(jiǎn)單對(duì)話(huà)比較好的選擇。雖然不是滿(mǎn)血,也沒(méi)有提供太多選項(xiàng),勝在打開(kāi)就能用,可以看到 R1 的思維鏈過(guò)程,穩(wěn)定性到目前為止沒(méi)有大問(wèn)題。不能通過(guò) API 聯(lián)網(wǎng),但問(wèn)題不大。 SCNet:能用 提供三種選項(xiàng),但穩(wěn)定性、交互和速度都比較一般。離譜的時(shí)候需要刷新一次,出一段回答,刷新一次再出一段回答。 不推薦。 秘塔 AI:最推薦 秘塔明晃晃地打出了廣告,目前在網(wǎng)頁(yè)版支持 DeepSeek R1,客戶(hù)端還要稍等。 秘塔在深度檢索上就很強(qiáng),接入 R1 之后,簡(jiǎn)直是天作之合、強(qiáng)強(qiáng)聯(lián)手。在同一個(gè)問(wèn)題下,秘塔的滿(mǎn)血版 R1 給出了更多細(xì)節(jié)以及例子。 左圖:Groq,右圖:秘塔 相比于 Groq,秘塔不僅檢索更有深度,信息也更即時(shí),這是它在「游戲的官服和渠道服有什么區(qū)別」問(wèn)題下,涉及到的來(lái)源: 秘塔是一個(gè)垂直于調(diào)研、學(xué)術(shù)等場(chǎng)景的 AI 產(chǎn)品,適合對(duì)檢索深度有要求的使用。因此交互設(shè)計(jì)上,不以對(duì)話(huà)的形式呈現(xiàn)。并且,會(huì)把所有的問(wèn)題都拆解成分析,包括最典型的「Strawberry 里有幾個(gè) r?」 哪怕是數(shù)字母這樣的任務(wù),秘塔也會(huì)做檢索,甚至還聯(lián)系到了草莓的基因?qū)W研究…… 想要跟官服一樣,和模型「談心」,就不太行得通。 像這樣一個(gè)比較偏探討的問(wèn)題,還是被拆解成了分析。 如果是文本生成任務(wù),優(yōu)點(diǎn)是會(huì)主動(dòng)理解 prompt 中的需求,進(jìn)行相應(yīng)的檢索。 比如下面這個(gè)視頻腳本任務(wù)的生成任務(wù),除了按要求給出腳本,還外鏈了很多創(chuàng)作指南——它就非得用檢索的思路來(lái)理解所有任務(wù)。 雖然明確要求了用流行熱梗,但就,春晚水平吧。 根據(jù)對(duì)要生成的文本的要求,有時(shí)候會(huì)觸發(fā)跳轉(zhuǎn)到秘塔寫(xiě)作貓,就需要單獨(dú)注冊(cè)登錄了。涉及到檢索和分析的,會(huì)留在秘塔內(nèi)完成。 整體上,秘塔是現(xiàn)有渠道服里,最能結(jié)合自身和 R1 優(yōu)勢(shì)的。使用也很穩(wěn)定,而且更新、更詳盡,同時(shí)也保留了 R1 的思考過(guò)程。 華為小藝:最快上線(xiàn)的端側(cè) DeepSeek agent 秘塔雖然好用,但還沒(méi)有在 app 內(nèi)安排上。移動(dòng)端使用,現(xiàn)在利好華為純血鴻蒙用戶(hù):升級(jí)小藝助手到 11.2.10.310 版本后,可以看到 DeepSeek 出現(xiàn)在小藝的智能體廣場(chǎng)中。 小藝版的 DeepSeek 沿用了對(duì)話(huà) bot 的形態(tài),背后的模型是 DeepSeek-R1 Beta。 Beta 的上下文長(zhǎng)度性能、回答準(zhǔn)確度以及功能尚處于一個(gè)比較基礎(chǔ)的狀態(tài)。跟官服相比,有兩個(gè)重要的不同:不展示思維鏈過(guò)程,以及不提供聯(lián)網(wǎng)選項(xiàng),只能被動(dòng)觸發(fā)。 另外,小藝對(duì)上下文的支持比較有限。這個(gè)數(shù)據(jù)沒(méi)有公開(kāi),但是經(jīng)過(guò)測(cè)試,輸入應(yīng)該不超過(guò)千字。 這或許跟 DeepSeek 接入小藝的形態(tài)有關(guān)系,在介紹里可以看到,這是「基于 DeepSeek 開(kāi)源版本部署的智能體」。 比如,還是「文學(xué)創(chuàng)作會(huì)被 AI 取代嗎」這個(gè)問(wèn)題下,它的表現(xiàn)跟秘塔如出一轍。 從實(shí)際使用來(lái)看,它更像是一個(gè) agent 化了的「秘塔+DeepSeek」?紤]到小藝作為純血鴻蒙的系統(tǒng)級(jí) AI,是真正的「親兒子」,agent group 比較像封神里的質(zhì)子團(tuán):來(lái)是來(lái)了,發(fā)揮空間不大。 從上面的菜單設(shè)置可以看到,DeepSeek 的 agent 已經(jīng)是三級(jí)菜單。如果想要通過(guò)語(yǔ)音交互,直接呼出的是小藝。想用 DeepSeek 的話(huà),還是要手動(dòng)點(diǎn)點(diǎn),進(jìn)入專(zhuān)門(mén)的智能體。 利好……但又沒(méi)完全利好吧。 總結(jié) 在官服支棱起來(lái)之前,體驗(yàn)最好的是秘塔的 web 端:最大程度保留 R1 的 CoT 特色,同時(shí)結(jié)合了秘塔原有的深度檢索,保證信息來(lái)源的可復(fù)核性,同時(shí)服務(wù)器連接穩(wěn)定,是唯一一個(gè)沒(méi)有大崩過(guò)的渠道。 除了不能當(dāng)聊天搭子之外,大部分任務(wù)都能很好的完成,跳轉(zhuǎn)自家的寫(xiě)作貓產(chǎn)品,也可以理解吧。不過(guò),秘塔的 app 還沒(méi)有更新,端側(cè)表現(xiàn)如何有待檢驗(yàn)。 說(shuō)一千道一萬(wàn),穩(wěn)定性還得指望 DeepSeek 官方,千百萬(wàn)用戶(hù)都在翹首以盼。DeepSeek 的工程師大佬們,你們千萬(wàn)別累著,但也別歇著啊。 文章來(lái)源:APPSO |
原創(chuàng)欄目
IT百科
網(wǎng)友評(píng)論
聚超值•精選
在經(jīng)歷了2018-2020年“蔚小理”的上市潮后,隨著國(guó)內(nèi)新能源汽車(chē)市場(chǎng)競(jìng)爭(zhēng)日益激烈,以及全球EV需求放緩,IPO的大門(mén)正在向造車(chē)新勢(shì)力們緩緩關(guān)閉。極氪的成功上市既是對(duì)新勢(shì)力的一次激勵(lì),也是一次警示——后來(lái)者必須面對(duì)越來(lái)越嚴(yán)苛的上市條件。留給哪吒汽車(chē)、廣汽埃安們的機(jī)會(huì)可能不多了。