ElabNET Technik Forum

Jain. Der Link lässt mich den Eindruck gewinnen, dass die LLM gestützte Entwicklung von Logiken beim TWS auf einem sehr guten Weg ist und einen deutlichen Entwicklungsvorsprung hat.

Es wäre für den TWS hilfreich diesen Vorsprung beizubehalten und rechtzeitig auch den nächsten Schritt zu gehen. - Das LLM sollte irgendwie als Service in den TWS rein oder an den TWS angedockt werden.

VG Stefan

Ja aber wie die Kosten da abrechnen. Der HS Service wird ja auch von einem Community-Betreiber nicht Gira betreiben und später dort dann auch in irgendeiner Form abgerechnet werden. Das wir der sich da auch nicht leisten können mit einem Account da mtl. sämtliche Anfragen bearbeiten zu lassen. Ich bin gerade dabei mir LLMs lokal zu installieren und dann lokal gegen die Grafikkarte laufen zu lassen. Mit einer 32GB VRAM Karte kann man da schon was sinnvolles mit einem so detaillierten Kanon rechnen lassen von den mittelgroßen Modellen.