Show HN: Biopetals – Run biology tuned Llama, BitTorrent-style
About a month ago, I heard about petals. Petals is basically a library that lets you run LLMs by loading the weights onto a network of computers that are all running petals. Then it splits up inference allowing you to run larger LLMs with consumer GPUs or just a Google colab. Earlier I was submitting a sequence to an AI protein folding server and had to wait almost 2 hours. This gave me the idea of trying to modify petals for biology models. Rewriting petals completely for different architecture
BioPetals
Google Colab
LLaMA
Petals
Évolution chronologique
-
BioPetals : un réseau décentralisé pour exécuter des modèles de biologie sur des LLM adaptés
BioPetals adapte le système Petals pour exécuter un LLM ajusté à la biologie de manière décentralisée, permettant de mutualiser les ressources de calcul entre plusieurs participant...