Das KI-Ethikdefizit - 94 % der IT-Führungskräfte fordern mehr Aufmerksamkeit für eine verantwortungsvolle und ethische KI-Entwicklung

SAN MATEO, KALIFORNIEN und LONDON, UK - 26. März 2019 - Ethische und verantwortungsvolle KI-Entwicklung ist ein Hauptanliegen von IT-Entscheidern (ITDMs), so eine neue Studie von SnapLogic Laut einer neuen Studie von SnapLogic sind 94 % der IT-Entscheider in den USA und Großbritannien der Meinung, dass der unternehmerischen Verantwortung und Ethik bei der KI-Entwicklung mehr Aufmerksamkeit geschenkt werden muss. Weitere 87 % der IT-Entscheider sind der Meinung, dass die KI-Entwicklung reguliert werden sollte, um sicherzustellen, dass sie den Interessen von Unternehmen, Regierungen und Bürgern gleichermaßen dient.

Die neue Studie, die von Vanson Bourne im Auftrag von SnapLogic durchgeführt wurde, untersuchte die Ansichten und Perspektiven von ITDMs aus verschiedenen Branchen und stellte Schlüsselfragen wie: Wer trägt die Hauptverantwortung dafür, dass KI ethisch und verantwortungsbewusst entwickelt wird, werden sich globale Expertenkonsortien auf die zukünftige Entwicklung von KI auswirken und sollte KI reguliert werden und wenn ja, von wem?

Wer trägt die Verantwortung?

Auf die Frage, wer letztendlich dafür verantwortlich ist, dass KI-Systeme ethisch und verantwortungsvoll entwickelt werden, verweisen mehr als die Hälfte (53 %) der ITDM auf die Organisationen, die die KI-Systeme entwickeln, unabhängig davon, ob es sich dabei um eine kommerzielle oder akademische Einrichtung handelt. 17 % sehen jedoch die Verantwortung bei den einzelnen Personen, die an KI-Projekten arbeiten. Auffallend ist, dass die Befragten in den USA mehr als doppelt so häufig wie die Befragten im Vereinigten Königreich die Verantwortung den einzelnen Mitarbeitern zuweisen (21 % gegenüber 9 %).

Ähnlich viele (16 %) halten ein unabhängiges globales Konsortium, das sich aus Vertretern von Regierungen, Hochschulen, Forschungseinrichtungen und Unternehmen zusammensetzt, für die einzige Möglichkeit, faire Regeln und Protokolle aufzustellen, um die ethische und verantwortungsvolle Entwicklung von KI zu gewährleisten. Weitere 11 % der ITDM sind der Meinung, dass die Verantwortung bei den Regierungen der Länder liegen sollte, in denen die KI-Systeme entwickelt werden.

Unabhängige Beratung und Expertise

Einige unabhängige regionale Initiativen, die KI-Unterstützung, -Lenkung und -Aufsicht bieten, nehmen bereits Gestalt an, wie zum Beispiel die hochrangige Expertengruppe der Europäischen Kommission für künstliche Intelligenz. ITDMs sehen Expertengruppen wie diese als einen positiven Schritt, um die ethischen Fragen rund um KI anzugehen. Die Hälfte der ITDM (50 %) glaubt, dass Unternehmen, die KI entwickeln, sich bei der Entwicklung ihrer KI-Systeme an den Empfehlungen solcher Expertengruppen orientieren und diese befolgen werden. Darüber hinaus glauben 55 %, dass diese Gruppen eine bessere Zusammenarbeit zwischen Organisationen, die KI entwickeln, fördern werden.

Die Briten sind jedoch skeptischer, was den Einfluss dieser Gruppen angeht. 15 % der ITDMs in Großbritannien gaben an, dass sie davon ausgehen, dass Unternehmen die Grenzen der KI-Entwicklung weiter ausreizen werden, ohne sich um die Ratschläge von Expertengruppen zu kümmern, verglichen mit 9 % ihrer amerikanischen Kollegen. Darüber hinaus gaben 5 % der britischen ITDMs an, dass Leitlinien oder Ratschläge von Aufsichtsgruppen praktisch nutzlos wären, um eine ethische KI-Entwicklung voranzutreiben, solange sie nicht gesetzlich durchsetzbar sind.

Ein Aufruf zur Regulierung

Viele glauben, dass die Gewährleistung einer ethischen und verantwortungsvollen KI-Entwicklung eine Regulierung erfordert. Tatsächlich sind 87 % der ITDMs der Meinung, dass KI reguliert werden sollte. 32 % sind der Meinung, dass dies durch eine Kombination aus Regierung und Industrie geschehen sollte, während 25 % der Meinung sind, dass die Regulierung in der Verantwortung eines unabhängigen Industriekonsortiums liegen sollte.

Einige Branchen sind jedoch offener für eine Regulierung als andere. Fast ein Fünftel (18 %) der ITDMs im verarbeitenden Gewerbe lehnt die Regulierung von KI ab, gefolgt von 13 % der ITDMs im Technologiesektor und 13 % der ITDMs im Sektor Einzelhandel, Vertrieb und Verkehr. Bei der Angabe der Gründe für die Ablehnung einer Regulierung waren die Befragten fast gleichmäßig geteilt zwischen der Überzeugung, dass eine Regulierung die KI-Innovation verlangsamen würde, und der Ansicht, dass die KI-Entwicklung im Ermessen der Unternehmen liegen sollte, die KI-Programme erstellen.

Verantwortungsvolle Förderung von KI-Innovationen

Gaurav Dhillon, CEO von SnapLogic, kommentierte: "Der KI gehört die Zukunft, und sie hat bereits erhebliche Auswirkungen auf Wirtschaft und Gesellschaft. Wie bei vielen schnelllebigen Entwicklungen dieser Größenordnung besteht jedoch die Gefahr, dass sie für unmoralische, böswillige oder einfach unbeabsichtigte Zwecke missbraucht wird. Wir sollten alle wollen, dass die KI-Innovation floriert, aber wir müssen die potenziellen Risiken beherrschen und unseren Teil dazu beitragen, dass die KI auf verantwortungsvolle Weise voranschreitet."

Dhillon fuhr fort: "Die Bedenken hinsichtlich der Datenqualität, der Sicherheit und des Datenschutzes sind real, und die Debatte über die Regulierung wird weitergehen. Aber KI läuft auf Daten - Sie erfordert einen kontinuierlichen, schnellen Zugang zu großen Datenmengen, die ungehindert zwischen verschiedenen Systemen fließen, um das KI-System effektiv zu trainieren und auszuführen. Eine Regulierung hat ihre Vorzüge und kann durchaus notwendig sein, aber sie sollte mit Bedacht umgesetzt werden, damit der Datenzugang und der Informationsfluss erhalten bleiben. Andernfalls werden KI-Systeme mit unvollständigen oder fehlerhaften Daten arbeiten, was den Fortschritt künftiger KI-Innovationen bremst."

Über die Forschung

Die Studie wurde vom unabhängigen Forschungsunternehmen Vanson Bourne im Februar 2019 im Auftrag von SnapLogic durchgeführt. An der Studie nahmen insgesamt 300 IT-Entscheidungsträger teil, die Organisationen mit mehr als 1.000 Mitarbeitern in den USA und im Vereinigten Königreich repräsentierten.

Über Vanson Bourne

Vanson Bourne ist ein unabhängiger Spezialist für Marktforschung in der Technologiebranche. Ihr Ruf für solide und glaubwürdige forschungsbasierte Analysen beruht auf strengen Forschungsgrundsätzen und ihrer Fähigkeit, die Meinungen von leitenden Entscheidungsträgern in allen technischen und geschäftlichen Funktionen, in allen Geschäftsbereichen und allen wichtigen Märkten einzuholen. Weitere Informationen finden Sie unter vansonbourne.com.

Über SnapLogic

SnapLogic bietet die intelligente Integrationsplattform Nr. 1. Die KI-gesteuerten Workflows und Self-Service-Integrationsfunktionen des Unternehmens ermöglichen es Unternehmen, alle ihre Application Integration, Datenintegrations- und Data-Engineering-Projekte schnell und einfach auf einer einzigen, skalierbaren Plattform zu verwalten. Hunderte von Global 2000-Kunden - darunter Adobe, AstraZeneca, Box, Emirates, Schneider Electric und Wendy's - vertrauen auf SnapLogic, um Geschäftsprozesse zu automatisieren, Analysen zu beschleunigen und die digitale Transformation voranzutreiben. Erfahren Sie mehr unter snaplogic.com.

Verbinden Sie sich mit SnapLogic über unseren Blog, Twitter, Facebook oder LinkedIn.

Kontakte zur Presse:

Marnie Spicer
Kaizo für SnapLogic
[email protected]
+44 (0) 20 3176 4723