StableLM, une alternative à ChatGPT en code source ouvert
“A Stochastic Parrot, flat design, vector art,” by Stable Diffusion XL.
Stability AI, l’entreprise britannique à qui l’on doit Stable Diffusion, le célèbre modèle d’apprentissage automatique qui permet de générer des images à partir de descriptions en langage naturel, a rendu publique une nouvelle famille de modèles de langage appelée StableLM. Ces modèles peuvent permettre de construire des alternatives en code source ouvert à ChatGPT. StableLM est actuellement disponible en version alpha sur GitHub avec des modèles de 3 milliards et 7 milliards de paramètres, sous la licence CC BY-SA-4.0 (ce qui implique que les applications créées à partir de ces modèles doivent partager la même licence). Des modèles plus larges de 15 milliards et de 65 milliards de paramètres devraient être prochainement ajoutés. Comme GPT-4, le grand modèle de langage (LLM) derrière ChatGPT, StableLM génère du texte en prédisant le prochain token (fragment de mot) dans une séquence. Cette séquence commence par des informations fournies par un humain sous la forme d’une “invite”. “Les modèles de langage formeront l’épine dorsale de notre économie numérique, et nous voulons que tout le monde ait son mot à dire dans leur conception”, écrit Stability dans un billet de blogue. “Les modèles tels que StableLM témoignent de notre engagement en faveur d’une technologie d’IA transparente, accessible et solidaire.”
⇨ Ars Technica, Benj Edwards, “Stability AI launches StableLM, an open source ChatGPT alternative.”
2023-04-24
