極客號(hào)(Xqh8.com) 7月17日 消息:最近,領(lǐng)先的人工智能研究組織 CarperAI 推出了 OpenELM,這是一個(gè)有望改變進(jìn)化搜索領(lǐng)域的開(kāi)源庫(kù)。OpenELM(其中 ELM 代表大型模型進(jìn)化)將大型語(yǔ)言模型的強(qiáng)大功能與進(jìn)化算法相結(jié)合,能夠生成多樣化且高質(zhì)量的文本和代碼。OpenELM0.9版本的提出旨在為開(kāi)發(fā)人員和研究人員提供一個(gè)特殊的工具來(lái)解決各個(gè)領(lǐng)域的復(fù)雜問(wèn)題。與 OpenELM 一起,該團(tuán)隊(duì)還在 GPTP2023上發(fā)布了論文。
通過(guò)大型模型的演化 (ELM) 演示了法學(xué)碩士如何迭代地增強(qiáng)、批評(píng)和改進(jìn)其輸出。這項(xiàng)技能可用于提高語(yǔ)言模型解決問(wèn)題的能力,并展示其作為語(yǔ)言和代碼智能搜索運(yùn)算符的潛力。ELM 背后的核心思想是 LLM 可以充當(dāng)進(jìn)化算法中變異的智能算子。OpenELM 利用這一潛力來(lái)提高語(yǔ)言模型解決問(wèn)題的能力,從而能夠在模型在訓(xùn)練過(guò)程中可能未見(jiàn)過(guò)的領(lǐng)域創(chuàng)建多樣化的高質(zhì)量?jī)?nèi)容。該團(tuán)隊(duì)引入 OpenELM 的主要目標(biāo)有以下四個(gè):
1、開(kāi)源——OpenELM 提供了 ELM 及其附帶的差分模型的開(kāi)源版本,這使得開(kāi)發(fā)人員可以自由使用該庫(kù)并做出貢獻(xiàn)。
2、模型集成:OpenELM 旨在輕松與封閉模型(只能與 OpenAI API 等商業(yè) API 一起使用)和開(kāi)源語(yǔ)言模型(可以在本地或 Colab 等平臺(tái)上使用)配合使用。
3、用戶友好的界面和示例環(huán)境:OpenELM 旨在提供簡(jiǎn)單的用戶界面以及各種進(jìn)化搜索示例環(huán)境。
4、進(jìn)化潛力——OpenELM旨在展示語(yǔ)言模型與進(jìn)化相結(jié)合的進(jìn)化潛力,并展示智能變異算子如何利用龐大語(yǔ)言的可能性來(lái)幫助進(jìn)化算法,特別是在純文本代碼創(chuàng)建和創(chuàng)意寫作等領(lǐng)域楷模。
OpenELM 專注于質(zhì)量多樣性 (QD) 方法,例如 MAP-Elites、CVT-MAP-Elites 和 Deep Grid MAP-Elites,是一個(gè)功能豐富的庫(kù),可以與眾所周知的進(jìn)化技術(shù)順利交互。它可以通過(guò)鼓勵(lì)多樣性和保留每個(gè)專業(yè)中最優(yōu)秀的人才來(lái)創(chuàng)建高質(zhì)量和多樣化的解決方案??傊?,OpenELM 利用大型語(yǔ)言模型的潛力生成多樣化且高質(zhì)量的文本和代碼,標(biāo)志著進(jìn)化搜索領(lǐng)域的一個(gè)重要里程碑。