Ethisches und moralisches Verhalten

im Umgang mit „Künstlicher Intelligenz“ (TEIL 2/3)

Künstliche Intelligenz (KI) ist ein immer stärker werdendes Phänomen in unserer modernen Welt. Ob in der Medizin, der Industrie, der Wissenschaft oder im Alltag: KI-Systeme sind heute allgegenwärtig und prägen unsere Gesellschaft nachhaltig auf vielfältige Weise. Wie jede neue Technologie bringt diese jedoch auch Herausforderungen mit sich, die ethische und moralische Fragen aufwerfen, die zur rechten Zeit berücksichtigt werden wollen und müssen.

KI-Regulierung und -Governance

Die Rolle von Regierungen, Unternehmen und Gesellschaft bei der Regulierung von KI

Die Bedeutung einer angemessenen Regulierung und Governance von KI ist angesichts der raschen Entwicklung von KI-Technologien und ihrer Auswirkungen auf die Gesellschaft in den Vordergrund gerückt. Den Regierungen, den Unternehmen und nicht zuletzt der Gesellschaft kommt in diesem Zusammenhang jeweils eine wichtige Rolle zu die es anzunehmen und umzusetzen gilt.

Regierungen können und müssen durch den Erlass von Gesetzen und Verordnungen den Einsatz von Systemen der Künstlichen Intelligenz in bestimmten Bereichen regeln. Eine solche Regelung ist die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union, die den Schutz personenbezogener Daten im Zusammenhang mit KI-Systemen sicherstellen soll. Ein weiteres Beispiel ist das deutsche Gesetz zur Regelung des autonomen Fahrens. Es regelt den Einsatz selbstfahrender Autos und stellt Anforderungen an KI-Systeme.

Auch Unternehmen tragen Verantwortung für die Regulierung von Künstlicher Intelligenz. Sie können unter anderem ethische Leitlinien für den Einsatz von KI-Systemen entwickeln und umsetzen. Exemplarisch hierfür ist die KI-Ethikrichtlinie von Google. Sie soll eine verantwortungsvolle und ethische Nutzung von KI-Technologien fördern.

Nicht zuletzt wird der Gesellschaft bei der Regulierung der KI eine bedeutende Rolle zukommen. Durch den öffentlichen Diskurs können und müssen gesellschaftliche Erwartungen und Bedenken im Hinblick auf den Einsatz von KI-Systemen deutlich gemacht werden. So wurde kürzlich der Einsatz von Gesichtserkennungstechnologien heftig diskutiert, was in einigen Ländern zu öffentlichem Widerstand und Verboten führte. Die Gesellschaft muss einen gemeinsamen ethischen und moralischen Kodex als Grundlage für jede Form der künstlichen Intelligenz definieren, formen und entscheidend mitgestalten. Dieses Fundament darf nicht von Einzelpersonen auf der Grundlage ihrer Werte, Ansichten und Überzeugungen geschaffen werden, sondern muss einen vielfältigen und integrativen Nährboden für ein positives, produktives und koexistenzielles Wachstum der künstlichen Intelligenz bilden.

Es gibt selbstverständlich Herausforderungen in Bezug auf die Regulierung und Governance von KI. Eine davon ist die Schwierigkeit, schnell genug auf neue Entwicklungen im Bereich der KI zu reagieren. Ein weiteres Hindernis, das es zu überwinden gilt, ist das Fehlen einer einheitlichen Regulierung auf internationaler Ebene, was zwangsläufig zu einem uneinheitlichen Regulierungsumfeld führt.

Insgesamt ist eine angemessene Regulierung und Governance von KI von großer Bedeutung, um die Entwicklung und Anwendung von KI-Technologien im Einklang mit ethischen und moralischen Grundsätzen sicherzustellen und mögliche negative Auswirkungen zu minimieren.

BEISPIELE

  • Regierungen: Die Europäische Union hat im April 2021 ihre erste KI-Verordnung vorgelegt, die KI sicherer und vertrauenswürdiger machen soll. Die Verordnung legt strenge Regeln für als risikoreich eingestufte KI-Anwendungen wie Gesichtserkennung fest. Die EU-Kommission betont dabei, dass es ihr Ziel ist, ethische Grundsätze und Grundrechte zu wahren.
  • Unternehmen: Google kündigte im Juni 2018 an, sich von künstlicher Intelligenz abzuwenden, die für die Entwicklung autonomer Waffensysteme genutzt werden könnte. Google begründete seine Entscheidung damit, dass es keine Kontrolle darüber habe, wie solche Technologien eingesetzt würden, und sich daher nicht an der Entwicklung von Technologien beteiligen wolle, die potenziell Schaden anrichten könnten.
  • Gesellschaft: Eine Gruppe von rund 400 Wissenschaftlern, Ingenieuren und Unternehmern unterzeichnete im August 2017 einen offenen Brief, in dem sie die Vereinten Nationen aufforderten, ein Verbot autonomer Waffensysteme zu verabschieden. In dem Brief wird argumentiert, dass autonome Waffensysteme eine Gefahr für die Menschheit darstellen könnten, wenn sie außer Kontrolle geraten oder von böswilligen Akteuren missbraucht werden.

Internationale Kooperation und Standardisierung

Die Regulierung und Governance von KI ist nicht nur eine nationale, sondern auch eine internationale Herausforderung. Zusammenarbeit und Standardisierung auf globaler Ebene sind daher von großer Bedeutung. Einige der wichtigsten bisherigen internationalen Initiativen zur Regulierung von KI sind

  • Die Europäische Union (EU) hat im Februar 2020 ein White-Book zur Regulierung von KI veröffentlicht, in dem ein Rechtsrahmen für den Umgang mit KI in der EU vorgeschlagen wird. Die EU plant außerdem die Schaffung eines europäischen KI-Ökosystems auf der Grundlage gemeinsamer Werte und Standards.
  • Die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) hat im Mai 2019 die OECD-Grundsätze für künstliche Intelligenz veröffentlicht, die als internationaler Rahmen für ethische KI dienen sollen. Die Grundsätze betonen die Bedeutung von Rechenschaftspflicht, Transparenz und Nachvollziehbarkeit von KI-Systemen.
  • Die Global Partnership on Artificial Intelligence (GPAI) wurde im Juni 2020 von sieben Ländern (USA, Kanada, Großbritannien, Frankreich, Deutschland, Japan und Indien) ins Leben gerufen, um die Zusammenarbeit und den Austausch bewährter Verfahren im Umgang mit KI zu fördern. GPAI hat sich zum Ziel gesetzt, die sichere und verantwortungsvolle Entwicklung und Nutzung von KI zu fördern.
  • Die Internationale Organisation für Normung (ISO) hat eine Reihe von Normen zur Regulierung von KI entwickelt bzw. ist dabei, dies zu tun. Diese Normen decken verschiedene Aspekte der KI ab, darunter ethische Grundsätze für die Entwicklung und Nutzung von KI, die Haftung für KI-Systeme und die Bewertung der Qualität von KI-Systemen.

Die Zusammenarbeit und Standardisierung auf internationaler Ebene ist von entscheidender Bedeutung, um sicherzustellen, dass KI verantwortungsvoll und ethisch eingesetzt wird und dass keine Regulierungslücken oder -konflikte zwischen verschiedenen Ländern entstehen.

Die Notwendigkeit von Transparenz, Rechenschaftspflicht und Verantwortlichkeit

Die Entwicklung und Anwendung von KI erfordert eine klare und transparente Rechenschaftspflicht, insbesondere bei Entscheidungen, die schwerwiegende Auswirkungen auf die Gesellschaft oder den Einzelnen haben können. Unternehmen, Regierungen und andere Akteure müssen sich verpflichten, klar und verständlich darzulegen, wie ihre KI-Systeme funktionieren und welche Daten sie verwenden. Darüber hinaus sollten sie in der Lage sein, ihre Entscheidungsprozesse zu erklären und Rechenschaft abzulegen, wenn ihre Systeme zu falschen oder diskriminierenden Ergebnissen führen.

Die Notwendigkeit von Transparenz und Rechenschaftspflicht im Umgang mit KI zeigt sich in Fällen algorithmischer Diskriminierung. In den USA leitete das Justizministerium eine Untersuchung gegen ein Unternehmen ein, das eine KI-Software zur Vorhersage der Rückfälligkeit von Straftätern eingesetzt hatte. Die Untersuchung ergab, dass das System rassistisch und diskriminierend war und zu Fehlurteilen führte. Dies zeigt, dass eine klare Verantwortlichkeit und Rechenschaftspflicht im Umgang mit KI-Systemen unerlässlich ist, um diskriminierende Praktiken zu vermeiden. Die Nutzung von KI-Systemen zur Überwachung und Kontrolle von Menschen ist ein weiterer Aspekt mit sozialer Sprengkraft. In einigen Ländern werden KI-Systeme zur Gewährleistung der öffentlichen Sicherheit eingesetzt. Solche Systeme können jedoch auch eingesetzt werden, um die Freiheit und Privatsphäre von Menschen einzuschränken und ihre Grundrechte zu verletzen. Hier ist es wichtig, dass die Verantwortlichen für solche Systeme transparent sind und ihre Entscheidungen nachvollziehbar machen können.

Im Gesundheitswesen könnten KI-Systeme eingesetzt werden, um Diagnosen zu stellen und Behandlungsempfehlungen zu geben. Wichtig ist, dass diese Systeme transparent arbeiten und nachvollziehbare Ergebnisse liefern, damit Ärzte und Patienten Vertrauen in die Entscheidungen des Systems haben und diese gegebenenfalls korrigieren können. In der Rechtsprechung könnten KI-Systeme zur Unterstützung der Entscheidungsfindung eingesetzt werden. Auch hier ist es wichtig, dass diese Systeme transparent arbeiten und nachvollziehbare Ergebnisse liefern, damit Anwälte, Richter und Angeklagte nachvollziehen können, wie eine Entscheidung zustande gekommen ist, und gegebenenfalls Rechtsmittel einlegen können.

Insgesamt ist es unerlässlich, dass Regulierungsbehörden und andere Akteure sicherstellen, dass KI-Systeme transparent und verantwortungsvoll eingesetzt werden. Dazu gehört auch, dass die Betreiber solcher Systeme klare Zuständigkeiten haben und zur Rechenschaft gezogen werden, wenn ihre Systeme zu falschen oder diskriminierenden Ergebnissen führen.

Author picture

Mit einem Master in Psychologie (Master of Science) und einem Diplom in darstellenden Künsten hat er einzigartige Perspektiven und Fähigkeiten entwickelt, die er in seiner Arbeit im Change Management, Transition / Transformation und Service Management erfolgreich einsetzt. Seit vielen Jahren leitet er erfolgreich Projekte in diesen Bereichen und hat dabei seine Neugierde und Begeisterungsfähigkeit für Neuerungen und Innovationen nie abgelegt.
Buolamwini, J., & Gebru, T. (2018). Gender nuances: Intersectional accuracy differences in commercial gender classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 77-91. | Eubanks, V. (2018). Automating inequality: how high-tech tools profile, police and punish the poor. St Martin’s Press. | Tufekci, Z. (2018). Twitter and Tear Gas: The Power and Fragility of Networked Protest. Yale University Press. | Turkle, S. (2011). Alone Together: Why we expect more from technology and less from each other. Basic Books. | Twenge, J. M. (2019). iGen: Why Today’s Super-Connected Kids Are Growing Up Less Rebellious, More Tolerant, Less Happy-and Completely Unprepared for Adulthood-and What It Means for the Rest of Us. Atria Books. | Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future on the New Frontier of Power. PublicAffairs. | European Commission. (2019). Ethical guidelines for trustworthy artificial intelligence. | IEEE Global Initiative on the Ethics of Autonomous and Intelligent Systems. (n.d.). Global inventory of AI ethics guidelines. | Future of Life Institute. (n.d.). AI Principles. | UK Government Office for AI. (n.d.). AI Ethics Impact Group. | European Parliament and Council. (2016). General Data Protection Regulation (GDPR). | Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389-399. | European Commission High-Level Expert Group on AI. (2019). Ethical guidelines for trustworthy AI. Brüssel: Europäische Kommission.
itSMF Community Day Mai 2024 KI im Multi Provider Management Grafik

Community Day | KI im Multi-Provider-Management

Diese Online-Veranstaltung ist ganz dem Thema KI im Multi-Provider-Management widmet. Technologien im Bereich Künstliche Intelligenz (KI) haben sich seit der Marktpräsenz von ChatGPT rasant entwickelt und immer neue Anwendungsgebiete erschlossen. Wir werfen in dieser Veranstaltung einen Blick auf konkrete Anwendungsbereiche im Multi-Provider-Management. Erfahren Sie in einer Podiumsdiskussion mit Experten, wie KI Aufgaben im Provider-Management vereinfachen und Entscheidungen erleichtern kann.

Weiterlesen »
Umfrage IT-Service Manager Grafik itSMF Deutschland

Berufsbild IT-Service Manager:In

Im Rahmen unserer Initiative zur Stärkung, Weiterentwicklung und Akkreditierung des Berufsbildes IT-Service Manager:In sind wir bestrebt, ein umfassendes Verständnis der aktuellen Anforderungen, Kompetenzen und Bedürfnisse in diesem Berufsfeld zu erlangen. Durch Ihre Teilnahme an dieser Umfrage leisten Sie einen wichtigen Beitrag zur Gestaltung und Verbesserung des Berufsbildes IT-Service Manager:In.

Weiterlesen »
itSMF Community Day August 2024 Corporate Sustainability Reporting Directive Grafik

Community Day – Corporate Sustainability Reporting Directive

Am 28. August 2024 um 15:00 Uhr findet der itSMF Community Day statt, der sich einem Thema von wachsender Bedeutung widmet: der Corporate Sustainability Reporting Directive (CSRD) und ihren Auswirkungen auf das IT Service Management. In diesem Live-Event tauchen wir tief in die CSRD ein, um zu verstehen, was diese Richtlinie bedeutet, wen sie betrifft, ab wann sie gilt und wie sich Unternehmen darauf vorbereiten können.

Weiterlesen »
itSMF Deutschland EU KI Gesetz copyright 2024 Grafik

Das EU-KI-Gesetz

Ein neues Zeitalter der künstlichen Intelligenz bricht an in Europa – dies ist die Botschaft, die vom Europäischen Parlament ausgeht, das nun das weltweit erste umfassende Gesetz zur Regelung von KI-Systemen verabschiedet hat. Wie ein Leuchtturm soll dieses Gesetz den Weg in eine Zukunft weisen, in der Technologie uns voranschreitet auf einem Pfad, der ebenso von humanistischen Werten wie von wirtschaftlichem Weitblick geprägt ist.

Weiterlesen »
itSMF Community Day März 2024 Cyber Security Grafik

Community Day – Cyber Security

In einer Welt, in der Cyber-Bedrohungen stetig komplexer und raffinierter werden, ist es entscheidend, nicht nur auf aktuelle, sondern auch auf zukünftige Sicherheitsanforderungen vorbereitet zu sein. Unser Vortrag „Revolutionieren Sie Ihre IT-Sicherheit: Mit Enterprise Service Management (ESM) einen Schritt voraus“ bietet Ihnen Einblicke, wie Ihr Unternehmen durch die Integration von ESM-Strategien eine robuste Sicherheitsinfrastruktur aufbauen kann, die nicht nur heutige, sondern auch morgige Cyber-Risiken effektiv managt. Erfahren Sie, wie ESM-Lösungen die Effizienz steigern, die Reaktionsfähigkeit auf Vorfälle verbessern und eine proaktive Sicherheitskultur fördern. Wir zeigen Ihnen, wie Sie durch Automatisierung, verbesserte Compliance und ein integriertes Management von IT-Services und Sicherheit, die Resilienz Ihres Unternehmens gegenüber Cyber-Bedrohungen stärken können.
Seien Sie dabei, wenn wir diskutieren, wie die richtigen ESM-Tools und -Praktiken nicht nur Ihre IT-Sicherheitsstrategie voranbringen, sondern auch einen Wettbewerbsvorteil im digitalen Zeitalter schaffen. Machen Sie den ersten Schritt in eine sicherere Zukunft und erfahren Sie, wie Ihr Unternehmen mit Enterprise Service Management die Sicherheitsanforderungen von morgen meistern kann.

Weiterlesen »
itSMF BLOG Wegweiser zur Automatisierung im ITSM Grafik

Wegweiser zur Automatisierung im ITSM

Im digitalen Zeitalter werden Geschwindigkeit und Effizienz großgeschrieben. Unternehmen streben stetig danach, ihre Servicequalität zu verbessern und gleichzeitig die operativen Kosten zu senken. Eine Schlüsselrolle spielt dabei das IT-Service-Management (ITSM), das die Planung, Lieferung, Verwaltung und Verbesserung von IT-Dienstleistungen an Geschäftsprozesse anlehnt. Doch wie können diese Ziele erreicht werden, ohne dabei die menschliche Arbeitskraft zu überlasten? Die Antwort findet sich in einem Begriff, der in der IT-Branche zunehmend an Bedeutung gewinnt: Automatisierung.

Weiterlesen »

Top-Trends im IT-Service Management 2024

Mit rasender Geschwindigkeit eilen wir in eine Ära, in der Technologie nicht nur eine ergänzende Rolle spielt, sondern das Herzstück unserer täglichen Operationen bildet. Die IT-Service Management (ITSM) Welt ist keine Ausnahme, sie entwickelt sich ständig weiter, um mit den Bedürfnissen eines digitalisierten Zeitalters Schritt zu halten. Im Jahr 2024 stehen wir vor wesentlichen Trends, die das Gesicht des ITSM grundlegend verändern werden. In diesem Beitrag werfen wir einen Blick auf die Zukunft und entdecken, welche Entwicklungen im ITSM uns im kommenden Jahr besonders beschäftigen werden.

Weiterlesen »

Corporate Sustainability Reporting Directive (CSRD)

Eines ist unbestritten: Nachhaltigkeit rückt immer mehr in den Fokus von Unternehmen, Investoren und Konsumenten. Die Einführung der Corporate Sustainability Reporting Directive (CSRD) durch die Europäische Union ist ein bahnbrechender Schritt hin zu mehr Transparenz und Verantwortlichkeit. Die Richtlinie, die Anfang 2023 in Kraft trat, markiert einen wichtigen Wendepunkt in der Art und Weise, wie Unternehmen über ihre Auswirkungen auf Umwelt und Gesellschaft berichten. Mit der CSRD verfolgt die EU das Ziel, die Nachhaltigkeitsberichterstattung zu standardisieren, zu vertiefen und letztlich die Nachhaltigkeitspraktiken von Unternehmen zu verbessern.

Weiterlesen »