REKA AI開源REKA FLASH 3：21B通用推理模型，經過從頭開始訓練

在當今動態的AI景觀中，開發人員和組織面臨幾個實際挑戰。高度計算需求，延遲問題以及對真正適應性的開源模型的訪問量通常會限制進度。許多現有的解決方案需要昂貴的雲基礎架構，或者對於在設備應用程序中來說太大，對於既高效又靈活的型號留下了差距。應對這些挑戰是啟用更容易訪問的自定義AI解決方案的關鍵，該解決方案可以針對不同的應用程序量身定制，而不會增加資源的負擔。

Reka AI推出了Reka Flash 3，這是一種從頭開始建立的，具有210億個參數。該模型專為一般對話，編碼支持，教學支持甚至功能調用而設計，是為廣泛應用的實用基礎而設計的。培訓過程結合了公共訪問和合成數據集的組合，然後使用加強單位（RLOO）方法進行仔細的指導調整和增強學習。這種故意的方法旨在在能力和效率之間取得平衡，將REKA Flash 3定位為同齡人的明智選擇。

從技術角度來看，Reka Flash 3提供了幾個功能，使其既多功能又有資源效率。一個值得注意的方面是它可以處理最多32K代幣的上下文長度的能力，這有助於處理冗長的文檔和復雜的任務而沒有過多的壓力。該模型還通過指定的 標籤。此功能使用戶能夠將模型的思維過程限制為一定的步驟，從而確保穩定的性能而沒有過多的計算開銷。此外，REKA Flash 3非常適合在設備部署中，提供了39GB（FP16）的完整精度大小，可以通過4位量化進一步壓縮到11GB。與較大的資源密集型模型相比，這種靈活性允許更流暢，本地部署。

評估指標和績效數據增強了模型的實用性。例如，儘管Reka Flash 3顯示了適度的MMLU-PRO分數為65.0，但與Web Search（例如Web Search）配對時，它仍然具有競爭力。此外，其多語言能力反映在WMT’23上的83.2彗星得分中，表明儘管它主要關注英語，但對非英語輸入的支持水平是合理的。這些結果與其相對於QWQ-32B等同行的有效參數計數相結合，強調了其對於一系列現實世界應用的潛力，而無需訴諸於誇張的索賠。

總之，REKA Flash 3代表了朝著更容易訪問的AI解決方案邁出的周到的一步。通過仔細平衡性能和效率，它提供了適用於一般聊天，編碼和說明任務的強大而適應性的模型。它的緊湊設計通過32K代幣上下文窗口和創新的預算強迫機制增強，使其成為現場部署和低延遲應用程序的實用選擇。對於尋求既有能力且易於管理的模型的研究人員和開發人員，Reka Flash 3提供了一個有前途的基礎，它與實際需求保持一致而沒有過多的大張旗鼓。

查看 擁抱面孔和技術細節的模型。 這項研究的所有信用都歸該項目的研究人員。另外，請隨時關注我們 嘰嘰喳喳 而且不要忘記加入我們的 80k+ ml子列數。

🚨 Meet Parlant：LLM優先的對話AI框架，旨在為開發人員提供對AI客戶服務代理商所需的控制和精確度，並利用行為指南和運行時監督。 🔧🎛️它是使用Python和TypeScript📦中易於使用的CLI📟和本機客戶sdks操作的。

Asif Razzaq是Marktechpost Media Inc.的首席執行官。作為一位有遠見的企業家和工程師，ASIF致力於利用人工智能的潛力來實現社會利益。他最近的努力是推出了人工智能媒體平台Marktechpost，該平台的深入覆蓋了機器學習和深度學習新聞，既在技術上都可以聽起來，既可以通過技術上的聲音，又可以被廣泛的受眾理解。該平台每月有超過200萬個觀點，說明了其在受眾中的受歡迎程度。