Gefahren in Schach halten
Künstliche Intelligenz sorgt nicht erst seit dem Hype um den Text-Automaten ChatGPT für Aufsehen. Doch wie können nun die KI-Systeme besser überprüft werden? Eine Initiative in Hessen soll deren Qualität testen und Risiken minimieren.
Ein Projekt zur künstlichen Intelligenz (KI) ist in Hessen an den Start gegangen. Mit dem »AI Quality & Testing Hub« haben Unternehmen die Möglichkeit, Systeme der KI zu überprüfen und zu verbessern, teilte das Digitalministerium am gestrigen Montag mit, das die Initiative mit dem Technik-Verband VDE ins Leben gerufen hat. Den Angaben zufolge werden dabei Forschung und Entwicklung sowie Standardisierung und Zertifizierung verknüpft. Ziel sei auch, das Vertrauen in KI-Anwendungen zu erhöhen.
»Wir entwickeln einen europäischen Leuchtturm, um KI-Anwendungen nutzen zu können. Damit sind wir eines der ersten Reallabore Europas im Bereich KI-Qualität«, sagte Hessens Digitalministerin Kristina Sinemus (CDU). »Wir betreiben verantwortungsbewusste Spitzenforschung und ermöglichen gleichzeitig den Transfer in die Praxis.«
Mithilfe von künstlicher Intelligenz (engl. Artificial Intelligence) werden Systeme wie Maschinen oder Roboter in die Lage versetzt, abstrakt beschriebene Aufgaben und Probleme eigenständig zu bearbeiten und zu lösen. Die Entwicklung wird aber auch kritisch gesehen: Prognosen, dass Software mit künstlicher Intelligenz Jobs ersetzen werde, so wie einst die Automatisierung viele Fabrikstellen wegfallen ließ, gibt es schon lange.
Wissensaustausch und Beratung
Zuletzt hatte die im November vergangenen Jahres veröffentlichte Software ChatGPT der Entwicklerfirma OpenAI für Furore gesorgt. Diese kann sekundenschnell Texte formulieren, die auch von einem Menschen geschrieben worden sein könnten. »AI wird in Zukunft fast alle Bereiche unseres Lebens beeinflussen und wird über alle Branchen hinweg eingesetzt. Hier gibt es viel Pionierarbeit zu leisten, damit sich die neue Technologie auch nach unseren Vorstellungen entwickelt«, sagte VDE-Präsident Alf Henryk Wulf. Einsatzbereiche am Standort Hessen sind beispielsweise Finanzen, Mobilität und Pharma. An den Hub wenden könnten sich sowohl Anwender von KI-Systemen, aber auch Nutzer, sagte der Geschäftsführer des Hubs, Michael Rammensee. Außer der Überprüfung oder des Nachweises der Qualität von KI-Systemen gehe es auch um ein Netzwerk und einen Wissensaustausch etwa mit der Forschung. Zudem würden Schulungen und Beratung angeboten. Bei der Qualitätsüberprüfung spielen dem Experten zufolge technische Anforderungen wie eine fehlerfreie Anwendung eine Rolle. Aber es gehe auch um normative Aspekte wie Transparenz bei Entscheidungsalgorithmen. Aufgabe des Hubs sei es, mögliche Gefahren der KI in Schach zu halten, sagte Rammensee. Ein Beispiel für Risiken sind demnach Diskriminierungsprobleme bei der automatisierten Bewerbungsauswahl. Sowohl das Land Hessen als auch der VDE stellen im Rahmen einer Anschubfinanzierung je 2,4 Millionen Euro bereit.