Free Open Source Software (FOSS): Eigene LocalAI-Instanz mit ersten drei Modellen eingerichtet

Quelle: Eigener Screenshot

In verschiedenen Blogbeiträgen hatte ich darauf hingewiesen, dass es für Organisationen in Zukunft immer wichtiger wird, die digitale Abhängigkeiten von kommerziellen IT-/AI-Anbietern zu reduzieren – auch bei der Anwendung von Künstlicher Intelligenz (AI: Artificial Intelligence), da die Trainingsdatenbanken der verschiedenen Anbieter

(1) nicht transparent sind,
(2) es zu Urheberrechtsverletzungen kommen kann,
(3) und nicht klar ist, was mit den eigenen eingegeben Daten, z.B. über Prompts oder hochgeladenen Dateien, passiert.

Siehe dazu auch Digitale Souveränität: Europa, USA und China im Vergleich. Nicht zuletzt werden die Kosten für die KI-Nutzung immer höher – beispielsweise bei Microsoft und der Nutzung des KI-Assistenten Copilot: KI treibt Microsoft-365-Preise in die Höhe (golem vom 17.01.2025).

Es ist natürlich leicht, darüber zu schreiben und die Dinge anzuprangern, schwieriger ist es, Lösungen aufzuzeigen, die die oben genannten Punkte (1-3) umgehen. Zunächst einmal ist die Basis von einer Lösung Free Open Source Software (FOSS). Eine FOSS-Alternative zu OpenAI, Claude usw. haben wir auf einem Server installiert und die ersten drei Modelle installiert. Was bedeutet das?

Wenn wir in einem Chat einen Prompt (Text, Datei..) eingeben, greift das System auf das ausgewählte Modell (LLM: Large Language Model) zu, wobei die Daten (Eingabe, Verarbeitung, Ausgabe) alle auf unserem Server bleiben.

Wie in der Abbildung zu sehen ist, haben wir neben Llama 3.2 auch Teuken 7B hinterlegt. Gerade Teuken 7B basiert auf einem europäischen Ansatz für eine Trainingsdatenbank (LLM) in 24 Sprachen der Europäischen Union. Siehe dazu Open Source AI-Models for Europe: Teuken 7B – Training on >50% non English Data.

Wir werden diese Modelle in der nächsten Zeit testen und unsere Erkenntnisse in Blogbeiträgen darstellen.

Patenticus: Eine App um den Umgang mit geistigem Eigentum zu lernen – kostenlos

In der Industriegesellschaft haben sich Patente, Marken, Gebrauchsmuster, eingetragene Designs und Topografien als gewerbliche Schutzrechte (DPMA-Website) etabliert. In einer Wissensgesellschaft kommt dem Umgang mit geistigen Eigentums eine ganz neue Bedeutung zu. Viele Menschen sehen es beispielsweise als eine Art Sport an, von anderen abzuschreiben, ohne Quellen zu nennen. Ein physisches Teil, wie z.B. einen Stuhl zu entwenden, käme diesen Personen wohl nicht in den Sinn. Mit immateriellen Gütern umzugehen, müssen viele noch lernen.

Es ist daher sehr erfreulich, dass es mit Patencius eine kostenlose App gibt, mit der jeder den Umgang mit geistigen Eigentum lernen kann. “Patenticus entstand im Rahmen der Initiative “L2Pro – learn to protect your Intellectual Property”, soll eine Einstiegshilfe in das Thema sein und ist und bleibt kostenlos! Die Nutzung von Patenticus ist keine Rechtsberatung und kann und soll diese nicht ersetzen!”. Probieren Sie es doch einfach mal aus.

Nicht ganz einfach: Urheberrecht in der Wissensgesellschaft

Die bekannten Schutzrechte des Industriezeitalters wie Patente, Gebrauchsmuster, Marken und Design (Siehe DPMA) müssen in einer Wissensgesellschaft um das wichtige Urheberrecht ergänzt werden. Ganz besonders geht es auch um die Rechte und Pflichten von öffentlichen Archiven, Bibliotheken, Museen und Einrichtungen des Film- und Tonerbes. Das das alles nicht so ganz einfach ist, wird in der Handreichung Klimpel, P., Rack, F., Weitzmann, J. H. (2017): Neue rechtliche Rahmenbedingungen für Digitalisierungsprojektevon Gedächtnisinstitutionen (PDF):

Der Gesetzgeber hat mit dem Gesetz  zur Angleichung des Urheberrechts an die Erfordernisse einer Wissensgesellschaft (Urheberrechts-Wissensgesellschafts-Gesetz,kurz UrhWissG) neben dem großen Bereich Forschung und Bildung auch einen neuen Rechtsrahmen für öffentliche Archive, Bibliotheken, Museen und ausdrücklich auch Einrichtungen des Film- oder Tonerbes geschaffen. Im Wesentlichen betreffen die Änderungen die Frage, welche Nutzungen von urheberrechtlich geschütztem Material diesen Institutionen erlaubt sind (Seite 8).

Das Urheberrecht thematisieren wir in den von uns entwickelten Blended Learning Lehrgängen Innovationsmanager (IHK) und Wissensmanager (IHK). Informationen dazu finden Sie auf unserer Lernplattform.