KI Integration in moodle

Hallo Zusammen,

nach Anregung und Anleitung durch einen Forenteilnehmer hab ich, das KI Framework in moodle nutzend, die IONOS AI Cloud in unserem selbstgehosteten moodle verfügbar gemacht.

Das war erschreckend einfach, weil die IONOS AI Cloud API OpenAI kompatibel ist, weswegen sie sehr einfach in moodle angebunden werden konnte.

Ich hab also bei IONOS ein Konto erstellt, dann in der Webseite der AI Cloud einen Token erstellt und diesen dann in moodle benutzt für die Anbindung.

Was man sofort hat, wenn man will, sind zwei Dinge:

  1. einen “AI Text Generieren” Knopf im TinyMC Editor von moodle (also z.B. beim Forennachrichten erstellen)

  2. auf fast jeder moodle Seite die zwei Knöpfe: Seite zusammenfassen und Seite erklären.

Ich wollte aber auch noch einen AI Chat drin haben. Das war ertmal nicht so einfach, weil ich mich für das falsche Plugin entschieden hatte: dieses benutzte nicht das moodle AI Framework sondern setzte seine eigenen AI Providerschnittstelle ein, bei der man aber nirgendwo einen eigenen API Endpoint angeben konnte: was also ohne Anpassungen im Code des Plugins nicht gegangen wäre.

Dann hab ich aber noch das richtige Plugin gefunden: dieses hier:

Das nutzt das Framework und hat sofort funktioniert.

Jetzt kann also jeder Lehrer, wenn er will, in seinem Kurs einen AI Chat Block hinzufügen.

Bleiben noch die Bilder: diese werden von der IONOS Cloud allerdings als b64_json ausgeliefert, womit moodle nichts anfangen kann. Das hätte gerne einfach einen Link zum generierten Bild. Noch hab ich nciht rausgefunden, ob man per API der Cloud auch sagen kann, sie solle das Bild so bereit stellen. Ist aber nicht so schlimm: noch brauche ich das nicht.

Nun kommt natürlich die Frage auf: was kostet das?

1 mio Token kosten ca. 17 Cent… oder je nach Model, das man wählt.

Hier sind die zwei Nachteile verborgen:

  1. das Modell kann nicht durch den Anwender gewählt werden (was auch von Vorteil sein kann) sondern durch den Admin gewählt.

  2. das Bezahlen in der IONOS Cloud. Ich hab mit denen jetzt nciht verhandelt: aber am Telefon waren sie jetzt spontan nicht bereit eine Schulkonforme Zahlungsmethode an zu bieten. Es geht nur Bankeinzug und Kreditkarte.

Das ganze ist nur deswegen passiert, weil Anfang des SChuljahres meine Schulleiterin gesagt hat, dass sie überlegt zu schule@BW zu wechseln, weil da gibt es ja KI und das müsse man ja so langsam schon irgendwo haben.

Das gute ist: in schule@BW haben sie Telli (derzeit .. sie wechseln ja gerne schnell die Anbieter: erst Fairchat und jetzt Telli). Das lustige ist: wir haben jetzt das gleiche Backend, denn auch Telli in schule@BW nutzt im Hintergrund die IONOS AI Cloud.

Hier noch eine Liste der verfügbaren modells:
meta-llama/Meta-Llama-3.1-8B-Instruct
meta-llama/Meta-Llama-3.1-405B-Instruct-FP8
meta-llama/Llama-3.3-70B-Instruct
mistralai/Mistral-Nemo-Instruct-2407
openGPT-X/Teuken-7B-instruct-commercial
mistralai/Mistral-Small-24B-Instruct
openai/gpt-oss-120b
BAAI/bge-m3
sentence-transformers/paraphrase-multilingual-mpnet-base-v2
black-forest-labs/FLUX.1-schnell
BAAI/bge-large-en-v1.5
meta-llama/CodeLlama-13b-Instruct-hf
lightonai/LightOnOCR-2-1B

Ich verwende derzeit:

mistralai/Mistral-Small-24B-Instruct

Das günstigste Model: /Meta-Llama-3.1-8B-Instruct hab ich rausgeworfen, nachdem es meine erste Frage mit Mist beantwortet hat (ich fragte nach dem Namensgeber unserer Schule: einem jüdischen SPD Politiker, der von den Nazis umgebracht wurde).

Hier sind noch die Preise der Modelle:

Jetzt werde ich das nach den Ferien dem Kollegium mal vorstellen und dann schauen wir mal, wie sich die Kosten entwickeln.

Vielelicht installiere ich auch noch Telli selber (ist ja OpenSource) und binde da auch die CloudAI an.. vielleicht ist das Frontend ja doch gut.

Aber bisher muss ich sagen: diese absolut glatte integration in moodle ist schon sehr gut.

Viele Grüße
Holger

In Moodle 4.5.11, das am Montag veröffentlicht wird, wird die base64_json option integriert sein für den KI Provider OpenAI. Damit sollte dann auch die Bildgeneration in Moodle möglich sein mit IONOS.

Hallo Sucher,

.. das ist ja super ..

Jetzt verstehe ich auch, warum das nicht geklappt hat: OpenAI hatte erst vor kurzem umgestellt auf

b64_json. Jetzt zieht moodle nach um die Kompatibilität wieder her zu stellen. Dann paßt das auch wieder mit IONOS.

Ich hab moodle 5.1.3 derzeit installiert.

Die Releasnotes für 5.1.4 melden ebenfalls b64_json.

Viele Grüße

Holger

wo gibt es das zum selber hosten?

Hallo Pascal,

ja, Telli ist OpenSource.

Ich hab das aber noch ciht umgesetzt. Ich weiß aber, dass @sucher das (Telli) schon selbst hostet für seine Schule.

LG
Holger

in github tut sich da auch ziemlich viel… die readme anleitungen werden besser, die die lokale installation beschreiben.
der admin zugang zu telli wird auch besser. da hat sich viel getan im letzten halben jahr. ich selber bi gerade nicht auf der aktuellen version.. man muss halt schauen dass man die secrets alle setzt…

hab telli heute aktualisiert … heisst ja jetzt aischat.
gleichzeitig muss ich sagen… dass ueber kurz oder lang es keinen Sinn macht sich der Schule@bw platform zu verwehren…
ein fortbilungskollege braucht jetzt einen aischat zugang für die fortbildungen die er hält. mit meinem telli kann er die Prompts usw nicht teilen mit schulexternen…
jetzt haben sie ja zwar gemacht dass man auch direkt wohl als lehrkraft einen zugang bei schule@bw beantragen kann… aber unsere schule hatte das schon beantragt.. aber nicht bespielt und dann wurde dieser Zugang nun geblockt.
ausserdem kommt zu telli immer mehr zeugs hinzu… jetzt die websuche.. wo man immer neue anbieter und accounts braucht aehnlich zu ionos.. also da möchte ich dann irgendwann nicht mehrmitziehen… muessen die kollegen halt mit schule@bw auch klar kommen. ich denke die schüler nehmen wir da aber nicht mit hin…

Hallo sucher,

du sprichst die sogenannte „Selbstregistrierung“ an, die nur Lehrkräften zur Verfügung steht, deren Schule kein schule@BW hat und es auch nicht beantragt hat.

Den Prozess hab ich gerade durch .. das ist schon ein Brett.

Erstmal Konto erstellen bei lobw, dann dort die Daten verknüpfen und die Threema Lizenz rauspfriemeln.

Dann Threema einrichten

Dann bei schule@BW die Selbstregistrierung starten, die bis zur Mail an die Schulleitung geht.

Erst mit der Weiterleitung der Mail durch die Schulleitung geht es dann rein ind Schule@BW mit Einrichtung des zweiten Faktors.

Warum man dafür Threema braucht erschließt sich mir nicht ..

Was meinst du den mit: du kannst das nciht alles nachbilden?

Du meinst das „Einladen“ der Schüler*innen durch den QR Code?

Wie kommen bei dir die Schüler*innen den in die Lernumgebung? Ist Telli an deinen AD angebunden?

LG
Holger

ja genau. die Selbstregistrierung. das find ich eigentlich ok. mir leuchtet ein dass man dann threema braucht um sich das pw zurücksetzen zu lassen. aber ja das problem ist halt dass wir schule@bw beantragt haben aber nicht verwenden und auch bisher nicht aktiv mit asv synchroniseren. jetzt müssen wir das für die lehrkräfte halt machen.. bzw zumindest fuer die paar Lehrer, die Fortbildungen machen… oder mit Sachen aus Fortbildungen kommen die sie von anderen Fortbildnern geteilt bekommen haben… -.-

Der Login der Lehrkräfte funktioniert über keycloak, der über AD angebunden ist. Da könnte man auch den Edulution keycloak dafür verwenden. Für die Unterscheidung der Rolle Lehrkräfte und Schüler müssen die Lehrer / Schüler ein Atttribut LEHR bzw. LERN haben.
Die Installation von AISchat hat sich vereinfacht eigentlich. Es gibt eine docker compose.yml für alle Dienste. Ich habe eine .env wo alles drin steht an Daten und Passwörter.

Eine neues Feature das AISchat nun eingebaut hat ist die Websuche mit einem Dienst namens Linkup.so . Das ist ja voll cool. Aber…Und das meine ich.. da kommen jetzt halt immer mehr Sachen dazu.. Jetzt müsste ich also für Linkup auch nen Schulaccount machen, pro Websuche kostet das dann nen halben Cent…und auch hier wieder müsste man prüfen wie man das vom Datenschutz her macht usw… Da wäre die Selbstregistrierung der Lehrkräfte bei Schul@bw halt einfacher, nur geht das bei mir ja nicht weil wir ja schule@bw formal haben :see_no_evil_monkey:

Du kannst als telli admin entscheiden, ob du den Schülern den Zugang über keycloak gewährst. Dann hätte jeder Schüler sein eigenes Chatkontingent. Oder du kannst es so machen wie schule@bw dass nur Lehrkräfte sich einloggen können. Die Schüler kann man als Lehrer dann per QR Code einladen und das funktioniert auch ohne Probleme..

LG Armin