本文概要:
1. Stability AI 發(fā)布了開源語(yǔ)言模型 StableCode,用于代碼生成,支持多種編程語(yǔ)言。
2. StableCode 有4K 和16K 版本,16K 版本的大上下文窗口對(duì)新手程序員特別有用。
3. Stability AI 還發(fā)布了開源語(yǔ)言模型 StableLM 和 “Free Willy”,在基準(zhǔn)測(cè)試中超過了 GPT-3.5的性能。
極客號(hào)(Daydx.com)8月9日 消息:Stability AI 推出了用于代碼生成的開源語(yǔ)言模型 StableCode。
StableCode 基于 GPT-NeoX 構(gòu)建,使用 BigCode 數(shù)據(jù)集進(jìn)行預(yù)訓(xùn)練,并擴(kuò)展到包括 Python、Go、Java、Javascript、C、Markdown 和 C++ 等多種編程語(yǔ)言,總計(jì)5600億個(gè)token。該模型通過指令模型和具體應(yīng)用示例進(jìn)行改進(jìn),用于解決復(fù)雜的編程任務(wù)。
StableCode 提供了4K 和16K 兩個(gè)版本,更大的上下文窗口允許模型一次查看更多代碼來解決任務(wù),從而可能生成更好的代碼。其中16K 版本具有更大的上下文窗口,能夠同時(shí)查看或編輯多個(gè)中等大小的 Python 文件,對(duì)初學(xué)者特別有幫助。
官方表示,模型旨在一次處理更多代碼(比之前發(fā)布的具有16,000個(gè)token的上下文窗口的開放模型多2-4倍),同時(shí)允許用戶查看或編輯相當(dāng)于最多5個(gè)平均大小的 Python 文件。
Stability AI 還在4月份發(fā)布了其第一個(gè)開源語(yǔ)言模型 StableLM 和 “Free Willy”,這些模型在性能上匹配或超過了 GPT-3.5,并展示了 Stability AI 在自然語(yǔ)言處理領(lǐng)域的實(shí)力。
StableCode 的發(fā)布將使各種背景的人們能夠更輕松地使用人工智能生成代碼,解決日常問題,提高生活質(zhì)量。隨著 Stability AI 不斷推出更多的語(yǔ)言模型,編程將變得更加普及化,有望出現(xiàn)更多的1b 級(jí)編碼員。
Stability A官方博客:https://stability.ai/blog/stablecode-llm-generative-ai-coding