Ethisches und moralisches Verhalten

im Umgang mit “Künstlicher Intelligenz” (TEIL 2/3)

Künstliche Intelligenz (KI) ist ein immer stärker werdendes Phänomen in unserer modernen Welt. Ob in der Medizin, der Industrie, der Wissenschaft oder im Alltag: KI-Systeme sind heute allgegenwärtig und prägen unsere Gesellschaft nachhaltig auf vielfältige Weise. Wie jede neue Technologie bringt diese jedoch auch Herausforderungen mit sich, die ethische und moralische Fragen aufwerfen, die zur rechten Zeit berücksichtigt werden wollen und müssen.

KI-Regulierung und -Governance

Die Rolle von Regierungen, Unternehmen und Gesellschaft bei der Regulierung von KI

Die Bedeutung einer angemessenen Regulierung und Governance von KI ist angesichts der raschen Entwicklung von KI-Technologien und ihrer Auswirkungen auf die Gesellschaft in den Vordergrund gerückt. Den Regierungen, den Unternehmen und nicht zuletzt der Gesellschaft kommt in diesem Zusammenhang jeweils eine wichtige Rolle zu die es anzunehmen und umzusetzen gilt.

Regierungen können und müssen durch den Erlass von Gesetzen und Verordnungen den Einsatz von Systemen der Künstlichen Intelligenz in bestimmten Bereichen regeln. Eine solche Regelung ist die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union, die den Schutz personenbezogener Daten im Zusammenhang mit KI-Systemen sicherstellen soll. Ein weiteres Beispiel ist das deutsche Gesetz zur Regelung des autonomen Fahrens. Es regelt den Einsatz selbstfahrender Autos und stellt Anforderungen an KI-Systeme.

Auch Unternehmen tragen Verantwortung für die Regulierung von Künstlicher Intelligenz. Sie können unter anderem ethische Leitlinien für den Einsatz von KI-Systemen entwickeln und umsetzen. Exemplarisch hierfür ist die KI-Ethikrichtlinie von Google. Sie soll eine verantwortungsvolle und ethische Nutzung von KI-Technologien fördern.

Nicht zuletzt wird der Gesellschaft bei der Regulierung der KI eine bedeutende Rolle zukommen. Durch den öffentlichen Diskurs können und müssen gesellschaftliche Erwartungen und Bedenken im Hinblick auf den Einsatz von KI-Systemen deutlich gemacht werden. So wurde kürzlich der Einsatz von Gesichtserkennungstechnologien heftig diskutiert, was in einigen Ländern zu öffentlichem Widerstand und Verboten führte. Die Gesellschaft muss einen gemeinsamen ethischen und moralischen Kodex als Grundlage für jede Form der künstlichen Intelligenz definieren, formen und entscheidend mitgestalten. Dieses Fundament darf nicht von Einzelpersonen auf der Grundlage ihrer Werte, Ansichten und Überzeugungen geschaffen werden, sondern muss einen vielfältigen und integrativen Nährboden für ein positives, produktives und koexistenzielles Wachstum der künstlichen Intelligenz bilden.

Es gibt selbstverständlich Herausforderungen in Bezug auf die Regulierung und Governance von KI. Eine davon ist die Schwierigkeit, schnell genug auf neue Entwicklungen im Bereich der KI zu reagieren. Ein weiteres Hindernis, das es zu überwinden gilt, ist das Fehlen einer einheitlichen Regulierung auf internationaler Ebene, was zwangsläufig zu einem uneinheitlichen Regulierungsumfeld führt.

Insgesamt ist eine angemessene Regulierung und Governance von KI von großer Bedeutung, um die Entwicklung und Anwendung von KI-Technologien im Einklang mit ethischen und moralischen Grundsätzen sicherzustellen und mögliche negative Auswirkungen zu minimieren.

BEISPIELE

  • Regierungen: Die Europäische Union hat im April 2021 ihre erste KI-Verordnung vorgelegt, die KI sicherer und vertrauenswürdiger machen soll. Die Verordnung legt strenge Regeln für als risikoreich eingestufte KI-Anwendungen wie Gesichtserkennung fest. Die EU-Kommission betont dabei, dass es ihr Ziel ist, ethische Grundsätze und Grundrechte zu wahren.
  • Unternehmen: Google kündigte im Juni 2018 an, sich von künstlicher Intelligenz abzuwenden, die für die Entwicklung autonomer Waffensysteme genutzt werden könnte. Google begründete seine Entscheidung damit, dass es keine Kontrolle darüber habe, wie solche Technologien eingesetzt würden, und sich daher nicht an der Entwicklung von Technologien beteiligen wolle, die potenziell Schaden anrichten könnten.
  • Gesellschaft: Eine Gruppe von rund 400 Wissenschaftlern, Ingenieuren und Unternehmern unterzeichnete im August 2017 einen offenen Brief, in dem sie die Vereinten Nationen aufforderten, ein Verbot autonomer Waffensysteme zu verabschieden. In dem Brief wird argumentiert, dass autonome Waffensysteme eine Gefahr für die Menschheit darstellen könnten, wenn sie außer Kontrolle geraten oder von böswilligen Akteuren missbraucht werden.

Internationale Kooperation und Standardisierung

Die Regulierung und Governance von KI ist nicht nur eine nationale, sondern auch eine internationale Herausforderung. Zusammenarbeit und Standardisierung auf globaler Ebene sind daher von großer Bedeutung. Einige der wichtigsten bisherigen internationalen Initiativen zur Regulierung von KI sind

  • Die Europäische Union (EU) hat im Februar 2020 ein White-Book zur Regulierung von KI veröffentlicht, in dem ein Rechtsrahmen für den Umgang mit KI in der EU vorgeschlagen wird. Die EU plant außerdem die Schaffung eines europäischen KI-Ökosystems auf der Grundlage gemeinsamer Werte und Standards.
  • Die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) hat im Mai 2019 die OECD-Grundsätze für künstliche Intelligenz veröffentlicht, die als internationaler Rahmen für ethische KI dienen sollen. Die Grundsätze betonen die Bedeutung von Rechenschaftspflicht, Transparenz und Nachvollziehbarkeit von KI-Systemen.
  • Die Global Partnership on Artificial Intelligence (GPAI) wurde im Juni 2020 von sieben Ländern (USA, Kanada, Großbritannien, Frankreich, Deutschland, Japan und Indien) ins Leben gerufen, um die Zusammenarbeit und den Austausch bewährter Verfahren im Umgang mit KI zu fördern. GPAI hat sich zum Ziel gesetzt, die sichere und verantwortungsvolle Entwicklung und Nutzung von KI zu fördern.
  • Die Internationale Organisation für Normung (ISO) hat eine Reihe von Normen zur Regulierung von KI entwickelt bzw. ist dabei, dies zu tun. Diese Normen decken verschiedene Aspekte der KI ab, darunter ethische Grundsätze für die Entwicklung und Nutzung von KI, die Haftung für KI-Systeme und die Bewertung der Qualität von KI-Systemen.

Die Zusammenarbeit und Standardisierung auf internationaler Ebene ist von entscheidender Bedeutung, um sicherzustellen, dass KI verantwortungsvoll und ethisch eingesetzt wird und dass keine Regulierungslücken oder -konflikte zwischen verschiedenen Ländern entstehen.

Die Notwendigkeit von Transparenz, Rechenschaftspflicht und Verantwortlichkeit

Die Entwicklung und Anwendung von KI erfordert eine klare und transparente Rechenschaftspflicht, insbesondere bei Entscheidungen, die schwerwiegende Auswirkungen auf die Gesellschaft oder den Einzelnen haben können. Unternehmen, Regierungen und andere Akteure müssen sich verpflichten, klar und verständlich darzulegen, wie ihre KI-Systeme funktionieren und welche Daten sie verwenden. Darüber hinaus sollten sie in der Lage sein, ihre Entscheidungsprozesse zu erklären und Rechenschaft abzulegen, wenn ihre Systeme zu falschen oder diskriminierenden Ergebnissen führen.

Die Notwendigkeit von Transparenz und Rechenschaftspflicht im Umgang mit KI zeigt sich in Fällen algorithmischer Diskriminierung. In den USA leitete das Justizministerium eine Untersuchung gegen ein Unternehmen ein, das eine KI-Software zur Vorhersage der Rückfälligkeit von Straftätern eingesetzt hatte. Die Untersuchung ergab, dass das System rassistisch und diskriminierend war und zu Fehlurteilen führte. Dies zeigt, dass eine klare Verantwortlichkeit und Rechenschaftspflicht im Umgang mit KI-Systemen unerlässlich ist, um diskriminierende Praktiken zu vermeiden. Die Nutzung von KI-Systemen zur Überwachung und Kontrolle von Menschen ist ein weiterer Aspekt mit sozialer Sprengkraft. In einigen Ländern werden KI-Systeme zur Gewährleistung der öffentlichen Sicherheit eingesetzt. Solche Systeme können jedoch auch eingesetzt werden, um die Freiheit und Privatsphäre von Menschen einzuschränken und ihre Grundrechte zu verletzen. Hier ist es wichtig, dass die Verantwortlichen für solche Systeme transparent sind und ihre Entscheidungen nachvollziehbar machen können.

Im Gesundheitswesen könnten KI-Systeme eingesetzt werden, um Diagnosen zu stellen und Behandlungsempfehlungen zu geben. Wichtig ist, dass diese Systeme transparent arbeiten und nachvollziehbare Ergebnisse liefern, damit Ärzte und Patienten Vertrauen in die Entscheidungen des Systems haben und diese gegebenenfalls korrigieren können. In der Rechtsprechung könnten KI-Systeme zur Unterstützung der Entscheidungsfindung eingesetzt werden. Auch hier ist es wichtig, dass diese Systeme transparent arbeiten und nachvollziehbare Ergebnisse liefern, damit Anwälte, Richter und Angeklagte nachvollziehen können, wie eine Entscheidung zustande gekommen ist, und gegebenenfalls Rechtsmittel einlegen können.

Insgesamt ist es unerlässlich, dass Regulierungsbehörden und andere Akteure sicherstellen, dass KI-Systeme transparent und verantwortungsvoll eingesetzt werden. Dazu gehört auch, dass die Betreiber solcher Systeme klare Zuständigkeiten haben und zur Rechenschaft gezogen werden, wenn ihre Systeme zu falschen oder diskriminierenden Ergebnissen führen.

Author picture

Mit einem Master in Psychologie (Master of Science) und einem Diplom in darstellenden Künsten hat er einzigartige Perspektiven und Fähigkeiten entwickelt, die er in seiner Arbeit im Change Management, Transition / Transformation und Service Management erfolgreich einsetzt. Seit vielen Jahren leitet er erfolgreich Projekte in diesen Bereichen und hat dabei seine Neugierde und Begeisterungsfähigkeit für Neuerungen und Innovationen nie abgelegt.
Buolamwini, J., & Gebru, T. (2018). Gender nuances: Intersectional accuracy differences in commercial gender classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 77-91. | Eubanks, V. (2018). Automating inequality: how high-tech tools profile, police and punish the poor. St Martin’s Press. | Tufekci, Z. (2018). Twitter and Tear Gas: The Power and Fragility of Networked Protest. Yale University Press. | Turkle, S. (2011). Alone Together: Why we expect more from technology and less from each other. Basic Books. | Twenge, J. M. (2019). iGen: Why Today’s Super-Connected Kids Are Growing Up Less Rebellious, More Tolerant, Less Happy-and Completely Unprepared for Adulthood-and What It Means for the Rest of Us. Atria Books. | Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future on the New Frontier of Power. PublicAffairs. | European Commission. (2019). Ethical guidelines for trustworthy artificial intelligence. | IEEE Global Initiative on the Ethics of Autonomous and Intelligent Systems. (n.d.). Global inventory of AI ethics guidelines. | Future of Life Institute. (n.d.). AI Principles. | UK Government Office for AI. (n.d.). AI Ethics Impact Group. | European Parliament and Council. (2016). General Data Protection Regulation (GDPR). | Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389-399. | European Commission High-Level Expert Group on AI. (2019). Ethical guidelines for trustworthy AI. Brüssel: Europäische Kommission.
itSMF Community Day März 2024 Cyber Security Grafik

Community Day – Cyber Security

In einer Welt, in der Cyber-Bedrohungen stetig komplexer und raffinierter werden, ist es entscheidend, nicht nur auf aktuelle, sondern auch auf zukünftige Sicherheitsanforderungen vorbereitet zu sein. Unser Vortrag „Revolutionieren Sie Ihre IT-Sicherheit: Mit Enterprise Service Management (ESM) einen Schritt voraus“ bietet Ihnen Einblicke, wie Ihr Unternehmen durch die Integration von ESM-Strategien eine robuste Sicherheitsinfrastruktur aufbauen kann, die nicht nur heutige, sondern auch morgige Cyber-Risiken effektiv managt. Erfahren Sie, wie ESM-Lösungen die Effizienz steigern, die Reaktionsfähigkeit auf Vorfälle verbessern und eine proaktive Sicherheitskultur fördern. Wir zeigen Ihnen, wie Sie durch Automatisierung, verbesserte Compliance und ein integriertes Management von IT-Services und Sicherheit, die Resilienz Ihres Unternehmens gegenüber Cyber-Bedrohungen stärken können.
Seien Sie dabei, wenn wir diskutieren, wie die richtigen ESM-Tools und -Praktiken nicht nur Ihre IT-Sicherheitsstrategie voranbringen, sondern auch einen Wettbewerbsvorteil im digitalen Zeitalter schaffen. Machen Sie den ersten Schritt in eine sicherere Zukunft und erfahren Sie, wie Ihr Unternehmen mit Enterprise Service Management die Sicherheitsanforderungen von morgen meistern kann.

Weiterlesen »
itSMF BLOG Wegweiser zur Automatisierung im ITSM Grafik

Wegweiser zur Automatisierung im ITSM

Im digitalen Zeitalter werden Geschwindigkeit und Effizienz großgeschrieben. Unternehmen streben stetig danach, ihre Servicequalität zu verbessern und gleichzeitig die operativen Kosten zu senken. Eine Schlüsselrolle spielt dabei das IT-Service-Management (ITSM), das die Planung, Lieferung, Verwaltung und Verbesserung von IT-Dienstleistungen an Geschäftsprozesse anlehnt. Doch wie können diese Ziele erreicht werden, ohne dabei die menschliche Arbeitskraft zu überlasten? Die Antwort findet sich in einem Begriff, der in der IT-Branche zunehmend an Bedeutung gewinnt: Automatisierung.

Weiterlesen »

Top-Trends im IT-Service Management 2024

Mit rasender Geschwindigkeit eilen wir in eine Ära, in der Technologie nicht nur eine ergänzende Rolle spielt, sondern das Herzstück unserer täglichen Operationen bildet. Die IT-Service Management (ITSM) Welt ist keine Ausnahme, sie entwickelt sich ständig weiter, um mit den Bedürfnissen eines digitalisierten Zeitalters Schritt zu halten. Im Jahr 2024 stehen wir vor wesentlichen Trends, die das Gesicht des ITSM grundlegend verändern werden. In diesem Beitrag werfen wir einen Blick auf die Zukunft und entdecken, welche Entwicklungen im ITSM uns im kommenden Jahr besonders beschäftigen werden.

Weiterlesen »

Corporate Sustainability Reporting Directive (CSRD)

Eines ist unbestritten: Nachhaltigkeit rückt immer mehr in den Fokus von Unternehmen, Investoren und Konsumenten. Die Einführung der Corporate Sustainability Reporting Directive (CSRD) durch die Europäische Union ist ein bahnbrechender Schritt hin zu mehr Transparenz und Verantwortlichkeit. Die Richtlinie, die Anfang 2023 in Kraft trat, markiert einen wichtigen Wendepunkt in der Art und Weise, wie Unternehmen über ihre Auswirkungen auf Umwelt und Gesellschaft berichten. Mit der CSRD verfolgt die EU das Ziel, die Nachhaltigkeitsberichterstattung zu standardisieren, zu vertiefen und letztlich die Nachhaltigkeitspraktiken von Unternehmen zu verbessern.

Weiterlesen »

UMFRAGE: Multi Provider Management

Multi-Provider-Management spielt eine immer wichtigere Rolle im IT Service Management, da sich Unternehmen zunehmend auf die Integration und das Management von IT Services verschiedener Anbieter konzentrieren. Ziel dieser Umfrage ist es, Einblicke in die Praktiken, Strategien und Erfahrungen von IT-Professionals im Kontext von Multi-Provider-Management zu gewinnen.

Weiterlesen »

Das europäische KI-Gesetz

Die Einführung des europäischen KI-Gesetzes stellt eine wichtige Entwicklung bei der Regulierung der Künstlichen Intelligenz (KI) dar. Das Gesetz spiegelt das wachsende Bewusstsein und die Notwendigkeit wider, eine fortschrittliche Technologie zu regulieren, die tiefgreifende Auswirkungen auf die Wirtschaft, die Gesellschaft und die Rechte des Einzelnen hat. In einer Zeit, in der KI-Technologien zunehmend in kritische und alltägliche Anwendungen integriert werden – von Gesundheits- und Finanzdienstleistungen bis hin zu öffentlicher Sicherheit und persönlicher Assistenz – stellt das Gesetz einen entscheidenden Schritt dar, um die Entwicklung und den Einsatz von KI im Einklang mit europäischen Werten und Standards zu gestalten.

Weiterlesen »

Test Account Management

Die Einführung neuer Softwarelösungen in Unternehmen ist eine regelmäßige Notwendigkeit in der heutigen digitalen Landschaft. Ein häufiger erster Schritt in diesem Prozess ist die Einrichtung von kostenlosen Test- und Probeaccounts. Obwohl diese Accounts eine scheinbar risikofreie Möglichkeit bieten, die Funktionalitäten neuer Software zu erkunden, bergen sie dennoch erhebliche Risiken und Herausforderungen. In diesem Artikel zeigen wir in sechs Schritten, wie Unternehmen mit diesen Herausforderungen umgehen und die Vorteile von Testaccounts optimal nutzen können.

Weiterlesen »

Bye Bye Birdie!

Heute verkünden wir als itSMF Deutschland, Berufs- und Fachverband für IT Service Management offiziell unseren Abschied von X (ehemals Twitter). Nach intensiven Überlegungen und Diskussionen innerhalb unserer Organisation haben wir uns entschieden, unsere Accounts auf dieser Plattform zu deaktivieren und deren Löschung zu beantragen.

Weiterlesen »