Tämän ohjeen avulla saat otettua käyttöön Lehmus AI -alustalla tarjolla olevat kielimallit Open WebUI -sovelluksessa. Yhdistäminen tehdään käynnistämällä Open WebUI Dockerin avulla ja antamalla sille Lehmus AI:n OpenAI-yhteensopiva rajapintaosoite sekä oma Lehmus AI -alustalla luotu API-avain.

Lehmus AI -alustalla on käytettävissä myös oma chat-käyttöliittymä. Open WebUI tarjoaa sille vaihtoehtoisen chat-käyttöliittymän, jota voit käyttää esimerkiksi silloin, kun haluat käyttää Lehmus AI:n kielimalleja erillisessä Open WebUI -ympäristössä.

 

Ennen kuin aloitat, varmista että…

• Sinulla on käyttöoikeus Lehmus AI -alustalle. Ohjeet käyttöoikeuksien saamiseen löydät ohjesivulta Lehmus AI: Tietoturvallinen generatiivisen tekoälyn alusta.
• Sinulla on voimassa oleva Lehmus AI:n API-avain.
• Koneellesi on asennettu Docker.
• Sinulla on käytettävissä terminaali tai komentorivi.
• Valittu portti 3000 on vapaana. Voit tarvittaessa vaihtaa porttinumeron toiseen.

 

Tarvitset myös nämä tiedot

Open WebUI yhdistetään Lehmus AI -alustaan OpenAI-yhteensopivan rajapinnan kautta. Tarvitset ennen komennon suorittamista seuraavat tiedot:

• Lehmus AI:n API-osoite: https://api.lehmus-ai.oulu.fi/v1/
• Oma API-avaimesi, jonka olet luonut Lehmus AI -alustalla. Korvaa seuraavan osion esimerkkiteksti omalla avaimellasi.
• Paikallinen osoite, jossa Open WebUI avautuu selaimeen: http://localhost:3000

 

Käynnistä Open WebUI Dockerilla

Kun käyttöoikeus, API-avain ja Docker ovat valmiina, käynnistä Open WebUI seuraavalla komennolla:

docker run -d \
–name open-webui \
-p 3000:8080 \
-v open-webui:/app/backend/data \
-e OPENAI_API_BASE_URL=”https://api.lehmus-ai.oulu.fi/v1/” \
-e OPENAI_API_KEY=”cm_api_key” \
–restart always \
ghcr.io/open-webui/open-webui:main

Korvaa cm_api_key omalla Lehmus AI -alustan API-avaimellasi ennen komennon suorittamista. Komento lataa ja käynnistää Open WebUI:n automaattisesti. Lisäksi se tallentaa Open WebUI:n tiedot niin, että asetukset ja käyttäjätiedot säilyvät myös koneen uudelleenkäynnistyksen jälkeen. Jos portti 3000 on jo käytössä, vaihda yllä olevassa komennossa porttinumeroksi jokin toinen vapaa portti.

 

Näin avaat Open WebUI:n

1. Avaa selain ja siirry osoitteeseen http://localhost:3000.
2. Luo tarvittaessa Open WebUI -käyttäjä tai kirjaudu sisään.
3. Avaa mallivalikko yläreunasta vasemmalta ja tarkista, että Lehmus AI:n kielimallit näkyvät valittavissa.
4. Valitse haluamasi malli ja lähetä lyhyt testiviesti, esimerkiksi: Hei, toimiiko yhteys?

 

Huomioitavaa

• Älä jaa omaa API-avaintasi muille käyttäjille.
• Jos portti 3000 on jo käytössä, vaihda komennossa porttimääritys esimerkiksi muotoon -p 3001:8080 ja avaa selaimessa vastaava osoite.
• Jos mallit eivät näy Open WebUI:ssa, tarkista API-avain, rajapintaosoite ja Docker-kontin lokit.
• Jos Open WebUI on ollut käytössä samalla koneella jo aiemmin, aiemmat asetukset voivat vaikuttaa siihen, mitä malleja näet. Tarkista tarvittaessa Open WebUI:n hallintanäkymästä, että Lehmus AI:n API-osoite ja asetukset ovat oikein.

 

Mallien nimet näkyvät epäselvinä, mitä teen?

Osa Lehmus AI -kielimalleista voi näkyä Open WebUI:ssa epäselvillä tai vaikeasti tulkittavilla nimillä, koska ne näytetään model id -tunnisteidensa perusteella. Voit vaihtaa mallien näkyvät nimet Open WebUI:ssa selkeämmiksi.

1. Klikkaa Open WebUI:n etusivulla mallin nimeä.
2. Valitse kyseisen mallin kohdalta kolme pistettä eli More.
3. Valitse Edit.
4. Kun Model settings -näkymä avautuu, klikkaa ylimpänä olevaa otsikkoriviä ja vaihda mallin näkyvä nimi oikeaksi.
5. Vertaa model id -tunnistetta Lehmus AI -alustan Models-välilehdellä näkyviin malleihin ja niiden id-tietoihin. Näin löydät, mikä selkeä nimi kuuluu millekin epäselvälle model id -tunnisteelle.

 

« Takaisin