[Erfahrungsbericht] [V4.5 IP4] Nutzung von KI (LLM) für Dokumentation und Custom-Logiken

[AndererStefan]

Jain. Der Link lässt mich den Eindruck gewinnen, dass die LLM gestützte Entwicklung von Logiken beim TWS auf einem sehr guten Weg ist und einen deutlichen Entwicklungsvorsprung hat.

Es wäre für den TWS hilfreich diesen Vorsprung beizubehalten und rechtzeitig auch den nächsten Schritt zu gehen. - Das LLM sollte irgendwie als Service in den TWS rein oder an den TWS angedockt werden.

VG Stefan

[gbglace]

Ja aber wie die Kosten da abrechnen. Der HS Service wird ja auch von einem Community-Betreiber nicht Gira betreiben und später dort dann auch in irgendeiner Form abgerechnet werden. Das wir der sich da auch nicht leisten können mit einem Account da mtl. sämtliche Anfragen bearbeiten zu lassen. Ich bin gerade dabei mir LLMs lokal zu installieren und dann lokal gegen die Grafikkarte laufen zu lassen. Mit einer 32GB VRAM Karte kann man da schon was sinnvolles mit einem so detaillierten Kanon rechnen lassen von den mittelgroßen Modellen.

[AndererStefan]

Gute Frage! Hab ich noch nich drüber nachgedacht.
Vorweg: Ich habe keinen Einblick hinter die Kulissen und wer mit wem, was und wie….

Als Addon, zusätzliches Abo oder als Zahlung per Logik fände ich das schwierig. Es sollte ein möglichst großer Kundenkreis erreicht werden. Gleichzeitig muss klar sein, dass die Verantwortung für das Ergebnis beim Kunden/Anwender liegt. Diskussionen mit dem „Anbieter“ der LLM-Dienstleistung, ob eine Logik nun funktioniert oder nicht und woran das liegt dürfen gar nicht erst entstehen.

Aus Endkundensicht fände ich am angenehmsten wenn das in der TWS-Wartung enthalten wäre. Ich denke das würde die Wettbewerbsfähigkeit des TWS stärken und die Akzeptanz von regelmäßigen Zahlungen für Wartungsverträge verbessern.

Es könnten pro Monat x-Token gratis inkludiert sein. Wer das sehr intensiv oder beruflich nutzt, sollte Token-Paket dazu kaufen können.

Aus technischer Sicht müsste man außerdem den „Kanon“ schützen und sicherstellen, das dass LLM den nicht ausspuckt.

Soweit meine Gedanken dazu…

VG Stefan

[eib-eg]

@AndererStefan

Die Überlegungen stehen schon länger im Raum
Frag doch mal Stefan ob er dein llm im wolf implementiert da mein Kanon zu blumige Aussagen macht.

[AndererStefan]

Hi,
@eib-eg ja, die Bedenken von StefanW teile ich…. Aber ich glaube, du bist mit deinem LLM inhaltlich weiter entwickelt als „MetaPro“. Ich habe bisher daran nichts mehr verbessert, weil ich keine Anwendungen habe (…also eigentlich schon, aber ich hatte noch keine Muße die anzugehen).

Mein Ansatz wäre daher zu versuchen die sprachlichen Eigenschaften von MetaPro auf deinen Kanon zu übertragen. Ein paar Ideen fürs Vorgehen hätte ich direkt… - Wieviel hast du/ habt ihr in dieser Richtung schon versucht?

Gibt es eine Alternative zu der Whatsapp-Gruppe? - Das Zeug kommt mir nicht aufs Handy.

VG
Stefan

[eib-eg]

zur info dieser text wurde von einer meschlichen ki geschrieben und nicht auf satzbau oder rechtschreibfehler geachtet


die aktuelle version 8.01.01 wird gerade erstellt
was alles enthalten ist, ist in meinen augen sehr viel
da aber zu wenige logiken angefordert haben kann ich nicht einschätzen ob er zu 95% oder 98% oder 99,5% perfekte logiken ausgibt
mein (also vom kanon 8.01.01) wissen basiert auf die von mir erstellten logiken die die ki erstellt hat
dein vorgehen wie ihr das llm schreibt basiert auf anderem als ich es gemacht habe
ihr habt auf tokensparen gesetzt ich setze auf qualität was rauskommt an logiken
sowie ich sie mit diversen sachen füttere
aber wenn du genauere infos willst
komm doch beim usertreffen vorbei
da kann ich dir alle einzelheiten "mündlich" nicht hier im forum weitergeben
die tricks wie wo wann was und vorallem warum
wenn du das verstanden hast
dann kommt vermutlich der ahaeffekt bei dir
die blumensprache wie du sie nennst hat einen bestimmten grund den du in meinen augen nicht verstehen magst oder kannst
aber ich habe es extra wegen dir abgestellt

in der hoffnung das du keinen augenkrebs mit meinen rechtschreibfehlern bekommst wie einer mal zu mir gesagt hatte

mfg
eib-eg Georg

ps.:
ah bevor ichs vergesse
wer rechtschreibfehler findt kann sie gerne behlten
genau so die zu 99,9% perfektgeschriebenen logiken vom kanon 8.01.01 incl anleitung

pps.:
und wenn ich mir überlege wie viele stunden ich für den kanon investiert habe , so durchschnittlich ohne übertreibung so ca 2-3h am tag seit dem ersten beitrag hir
und heute ist ein tag der nur einmal im jahr ist