Lehmus AI-alusta on suunniteltu tukemaan huipputason tutkimusta ja LLM-mallien käyttöä Oulun yliopistossa. Jos projektisi tarvitsee LLM-mallin, jotai ei ole vielä saatavilla valmiiksi asennettujen mallien kirjastossa, voit pyytää sen asennusta alla olevien ohjeiden mukaisesti ja täyttämällä lomakkeen Uuden kielimallin pyytäminen.
Mitä tarvitset uuden kielimallin pyytämiseen
Jotta uuden kielimallin arviointi- ja käyttöönotto sujuvat mahdollisimman tehokkaasti, liitä pyyntöön seuraavat tiedot:
- Hugging Face -kielimallilinkki: Anna suora URL-osoite mallin repositorioon. Varmista, että mallin lisenssi sallii akateemisen tai organisaatiokäytön.
- Käyttötarkoitus ja projektin konteksti: Kuvaa lyhyesti, mihin tarkoitukseen mallia käytetään ja mitä uutta lisäarvoa se tuo verrattuna jo saatavilla oleviin malleihin.
- Mallin saatavuuden aikataulu: Ilmoita, milloin tarvitset mallin käyttöön ja kuinka pitkään sitä aiot käyttää. Tämä auttaa hallitsemaan laskentaresurssien käyttöä ja vapauttamaan kapasiteettia uusille malleille.
Näin lähetät pyynnön
Kaikki pyynnöt tulee lähettää Uuden kielimallin pyytäminen -lomakkeen kautta. Tarkista ennen lomakkeen lähettämistä, voisiko jokin olemassa oleva LLM-malli täyttää vaatimuksesi.
Arviointi- ja käyttöönottoprosessi
Kun olet lähettänyt pyynnön uudesta kielimallista, tiimimme arvioi sen seuraavien kriteerien perusteella:
- Laitteistoyhteensopivuus: VRAM-vaatimusten arviointi suhteessa käytettävissä oleviin resursseihin
- Tietosuoja: Varmistamme, että mallia voidaan ajaa turvallisesti ympäristössämme eikä siihen liity tunnettuja sivuvaikutuksia.
Tavoitteemme on käsitellä ja asentaa pyydetyt kielimallit 22 työtunnin sisällä. Uusien mallien kohdalla käsittelyaika voi olla pidempi.
Pyydetyn mallin käyttöönoton jälkeen ilmoitamme uuden mallin pyytäjälle mallin lisäyksestä, sekä päivitämme dokumentaatioon lisätyn mallin.