Was Unternehmen über KI-Risiken wissen sollten
- 31.07.2025
- Allgemein
Künstliche Intelligenz verändert die Unternehmenswelt – mit Chancen und neuen Risiken.
Hochschullehrer Dr. Nico Deistler zeigt in einem aktuellen Fachbeitrag, wie Unternehmen KI-Systeme sicher, rechtskonform und ethisch einführen – und warum Bildungseinrichtungen dabei eine Schlüsselrolle spielen.
Künstliche Intelligenz (KI) ist längst mehr als ein technologischer Hype – sie verändert die Unternehmenspraxis grundlegend. Ob durch automatisierte Prozesse, datengestützte Entscheidungen oder intelligente Chatbots: Der Einsatz von KI-Systemen nimmt rasant zu. Doch mit den Chancen steigen auch die Risiken. Dr. Nico Deistler, Hochschullehrer für ERP-Technologien an der FH Kufstein Tirol, analysiert in einem aktuellen Beitrag für das Fachmagazin Wirtschaftsinformatik & Management (Springer Verlag), welche Herausforderungen auf Unternehmen zukommen – und wie sie diesen begegnen können.
„Meine Intention war es, das Thema KI aus einer regulatorischen Perspektive zu beleuchten“, erklärt Deistler. In seiner täglichen Arbeit beobachtet er große Unsicherheit in Unternehmen: „Viele wollen auf den Zug aufspringen, haben aber keine klare Vorstellung, welche Risiken mit KI-Anwendungen verbunden sind.“
Vom Bias bis zur Haftung: Neue Risikokategorien
Im Zentrum seiner Analyse steht der EU AI Act – das erste umfassende Regelwerk zur Regulierung künstlicher Intelligenz in Europa. Dieser verfolgt einen risikobasierten Ansatz und unterscheidet zwischen unzulässigen, hohen, begrenzten und geringen Risiken. „Für Unternehmen ist das ein wichtiger Orientierungsrahmen“, so Deistler. Besonders brisant seien Hochrisiko-Systeme, etwa im Bereich Recruiting, Gesundheitswesen oder kritischer Infrastruktur. Hier gelten strenge Auflagen zu Datenqualität, Transparenz und menschlicher Aufsicht.
Dr. Nico Deistler beleuchtet in einem Beitrag Chancen und Risiken für Unternehmen rund um das Thema KI.
Ein Beispiel aus der Praxis: Ein Unternehmen testete ein KI-Recruiting-Tool, das Lebensläufe automatisch bewertete – und stellte die Anwendung rasch wieder ein. Der Grund: Die KI zeigte eine deutliche Voreingenommenheit gegenüber weiblichen Bewerberinnen. „Solche Verzerrungen (Bias) entstehen oft aus fehlerhaften oder einseitigen Trainingsdaten“, warnt Deistler. „Sie sind schwer vollständig zu vermeiden, lassen sich aber durch Standards und Kontrolle eindämmen.“
KI-Governance muss Chefsache sein
Für Unternehmen, die KI einführen wollen, rät Deistler zu einem realistischen, zielorientierten Zugang – nicht zum „KI um der KI willen“. Besonders wichtig sei der Aufbau einer fundierten KI-Governance. Diese unterscheidet sich deutlich von klassischer IT-Governance: „Bei KI geht es nicht nur darum, ob ein System läuft – sondern was es inhaltlich tut, wie es sich weiterentwickelt und ob es diskriminiert.“ Risiken wie Informationsunsicherheit, Haftung, Ausfall, Datenschutzverletzungen oder Reputationsschäden müssten systematisch berücksichtigt werden.
Laut Deistler sind die meisten Unternehmen auf die kommenden Regulierungen noch kaum vorbereitet. „Es fehlt vielfach an internem Know-how. Viele starten gerade erst mit ersten Arbeitsgruppen oder holen sich externe Expertise.“
Hochschulen als Impulsgeber
Auch die Bildungseinrichtungen sieht Deistler in der Pflicht: „Wir tragen eine doppelte Verantwortung – einerseits die technische Ausbildung, andererseits die Vermittlung ethischer, gesellschaftlicher und wirtschaftlicher Zusammenhänge.“ KI-Verständnis bedeute nicht nur Algorithmen und Datenmodelle zu beherrschen, sondern auch reflektieren zu können: Welche Entscheidungen trifft ein System? Wer haftet? Welche gesellschaftlichen Folgen drohen?
Entscheidend sei dabei ein interdisziplinärer Zugang – also die Verbindung von Informatik, Rechts-, Wirtschafts- und Sozialwissenschaften. „Nur so können unsere Absolvent:innen KI nicht nur nutzen, sondern auch verantwortungsvoll gestalten.“
Wir werden rückblickend überrascht sein, wie schnell KI vom Werkzeug zum Mitgestalter wurde
Dr. Nico Deistler
Hochschullehrer für SAP-Technologien
Wenn Deistler in die Zukunft blickt, sieht er 2025 als einen Wendepunkt: „Wir werden rückblickend überrascht sein, wie schnell KI vom Werkzeug zum Mitgestalter wurde – im Unternehmen, im Alltag, in der Politik.“ Der Schlüssel zu einer positiven Entwicklung? Verantwortung, Regulierung – und Bildung.
Über die Publikation:
Der Beitrag von Dr. Nico Deistler ist in der Fachzeitschrift Wirtschaftsinformatik & Management (WUM) erschienen. Das praxisorientierte Magazin des Springer Verlags richtet sich an Fach- und Führungskräfte an der Schnittstelle von IT und Wirtschaft.