Wie die Betonung des apokalyptischen KI-Risikos im Vereinigten Königreich den Unternehmen hilft

Experten sagen, dass der Fokus des britischen globalen KI-Gipfels auf „Grenz-KI“ von der Regulierung bestehender Missstände der Technologie ablenkt

m Frühjahr 2023 legte die britische Regierung ihre Pläne zur Bewältigung der sich schnell entwickelnden KI-Landschaft vor. In einem Weißbuch mit dem Titel „Ein innovationsfreundlicher Ansatz zur KI-Regulierung“ beschrieb die Staatssekretärin für Wissenschaft, Innovation und Technologie die vielen Vorteile und Chancen, die ihrer Meinung nach in der Technologie stecken, und erläuterte die Entscheidung der Regierung, einen „prinzipienbasierten Ansatz“ zu verfolgen ” um es zu regulieren. Kurz gesagt: Das Vereinigte Königreich hatte nicht vor, neue Gesetze zu schaffen, sondern sich stattdessen für die Klarstellung bestehender Gesetze zu entscheiden, die für KI gelten könnten.

„Neue strenge und belastende gesetzliche Anforderungen an Unternehmen könnten die KI-Innovation bremsen und unsere Fähigkeit einschränken, schnell und angemessen auf zukünftige technologische Fortschritte zu reagieren“, heißt es im Weißbuch.

Im Vorfeld des globalen KI-Gipfels, den das Vereinigte Königreich Anfang November einberufen wird, hat Rishi Sunak den Wunsch zum Ausdruck gebracht, die Position des Vereinigten Königreichs als KI-Führer zu stärken, sowohl im Hinblick auf Innovation als auch auf die Sicherheitsaufsicht. Am Donnerstag sagte er jedoch, es sei zu früh für die Regierung, Gesetze zu KI zu erlassen. Er argumentierte, dass zunächst eine genauere Prüfung fortschrittlicher Modelle erforderlich sei, und sagte: „Es ist schwer, etwas zu regulieren, wenn man es nicht vollständig versteht.“

Experten sagen, dass vieles von dem, was Sunak auf dem Gipfel besprechen will, theoretisch war, da der Schwerpunkt auf der sogenannten „Grenz-KI“ liegt – der Bezeichnung für die fortschrittlichsten KI-Modelle.

In den im Vorfeld des Gipfels veröffentlichten Dokumenten wurde eine Reihe von Risiken detailliert beschrieben, von denen einige greifbarer sind, wie beispielsweise durch KI erzeugte Desinformation und Störungen des Arbeitsmarktes. Die Tagesordnung für den ersten Tag bezieht sich auch auf Diskussionen über „Wahlstörungen, Erosion des gesellschaftlichen Vertrauens und die Verschärfung globaler Ungleichheiten“.

Zu den weiteren in diesen Dokumenten aufgeführten Bedrohungen gehört die Frage, ob KI es Einzelpersonen ermöglichen könnte, Biowaffen herzustellen oder so mächtig zu werden, dass sie Sicherheitsleitplanken umgehen könnten. Die endgültige Tagesordnung für den Gipfel, deren erster Entwurf dem Guardian vorliegt, spiegelt denselben Fokus wider und argumentiert, dass die Grenze „wo die Risiken am dringendsten sind“ und „wo das große Versprechen der zukünftigen Wirtschaft liegt“ – ein Messer -Grenze zwischen Potenzial und Katastrophe.

„Wir konzentrieren uns auf dem AI Safety Summit auf Grenz-KI, weil dies der Bereich ist, in dem wir den dringendsten Risiken durch die gefährlichsten Fähigkeiten fortschrittlicher KI ausgesetzt sind“, sagte ein Sprecher des Ministeriums für Wissenschaft, Innovation und Technologie. „Das heißt nicht, dass die anderen Risiken nicht wichtig wären, und wir nutzen andere internationale Foren und arbeiten auf nationaler Ebene, um diese anzugehen.“

Nur wenige Beobachter gehen davon aus, dass das Treffen zu konkreten Gesetzesvorschlägen führen wird, obwohl Sunak am Donnerstag sagte, er werde sich für ein KI-Äquivalent des Zwischenstaatlichen Ausschusses für Klimaänderungen einsetzen – eine Koalition von Experten, die dabei helfen könnte, einen internationalen Konsens über Sicherheit zu schmieden.

Bedenken hinsichtlich existenzieller Risiken könnten von sinnvollen Vorschriften ablenken, die die bestehenden Übel mildern könnten, die KI-Tools verschärfen können, einschließlich der Überwachung marginalisierter Gruppen, der Ungleichheit bei Einstellung und Wohnraum und der Verbreitung von Fehlinformationen, warnen einige Experten.

„Die Aufmerksamkeit der politischen Entscheidungsträger und die Regulierungsbemühungen konzentrieren sich auf eine Reihe von Fähigkeiten, die noch nicht vorhanden sind, eine Reihe von Modellen, die diese Fähigkeiten noch nicht zeigen“, sagte Michael Birtwistle, stellvertretender Direktor für Recht und Politik am Ada Lovelace Institute , eine KI-Forschungsorganisation. „Und die heutigen Schäden spielen in dieser Berechnung wirklich keine Rolle.“

London ist mit diesem Ansatz nicht allein. Experten sagen, dass auch die USA sich zu sehr auf künftige oder hypothetische Schäden konzentriert haben, während sie bei der Einführung durchsetzbarer Leitplanken für aktuelle Anwendungen nur langsam vorgehen.

„Und in praktischer Hinsicht ist es kein hilfreiches Ziel für Regulierung oder Governance, weil es ein bewegliches Ziel ist“, sagte Birtwistle.

In ihrer jetzigen Form treibt KI Polizei- und Überwachungsinstrumente an, mit denen schwarze und braune Menschen unverhältnismäßig stark ins Visier genommen und manchmal auch falsch identifiziert werden. Es wurde festgestellt, dass KI-Einstellungstools diskriminierende Entscheidungen treffen, die Auswirkungen darauf haben, wer für eine Stelle in Betracht gezogen wird. Die Algorithmen, auf denen soziale Plattformen basieren, haben die Verbreitung von Fehlinformationen über Wahlen vorangetrieben. Und es gibt wenig Transparenz darüber, wie diese Programme funktionieren oder auf welchen Daten sie basieren.

Frontier AI befindet sich noch in der „Ideenphase“, sagte Janet Haven, Mitglied des US-amerikanischen National Artificial Intelligence Advisory Committee (NAIAC) und Geschäftsführerin der gemeinnützigen Technologieforschungsorganisation Data & Society, „aber es gibt viele KI.“ Im Einsatz befindliche Systeme, von denen empirische Erkenntnisse gezeigt haben, dass sie bereits Schäden verursachen, die nicht durch Vorschriften angegangen werden, ind

ustry Praktiken oder durch Gesetz“. Der Fokus des Gipfels auf die internationale Zusammenarbeit sei „eine verpasste Chance“, argumentierte Haven, eine Chance, die man hätte nutzen können, um über neue Gesetze zu diskutieren oder darüber, wie das Vereinigte Königreich bestehende Gesetze zur Bekämpfung von KI nutzen könnte.

„Ich denke, dass internationale Zusammenarbeit jeglicher Art ohne einen nationalen Rahmen an Gesetzen und Vorschriften äußerst schwierig ist“, sagte sie. „Sie haben keine Ausgangsbasis, von der aus Sie arbeiten können.“

Experten sagen, dass das Vereinigte Königreich bei seinem Ansatz einige Hinweise von den USA übernommen hat, wo der Gesetzgeber wiederholt KI-Führungskräfte im Kongress befragt hat, das Weiße Haus freiwillige KI-Sicherheitsverpflichtungen dargelegt hat und Joe Biden am Montag eine Durchführungsverordnung erlassen hat, die Leitplanken für die KI aufstellt der Einsatz fortschrittlicher KI-Systeme durch Bundesbehörden, eine sinnvolle Regulierung ist jedoch bisher noch nicht möglich.

Der Entwurf der Tagesordnung für den britischen Gipfel sah vor, dass die Unternehmen über den aktuellen Stand ihrer Einhaltung der freiwilligen KI-Sicherheitsverpflichtungen des Weißen Hauses berichten würden. Berichten zufolge wurde Bidens jüngste Durchführungsverordnung vor dem britischen Gipfel erlassen und könnte sich als aufschlussreich dafür erweisen, wie das Vereinigte Königreich über seinen eigenen gesetzgeberischen Ansatz denkt. Vizepräsidentin Kamala Harris nimmt an dem Gipfel in Großbritannien teil.

Harris sagte am Montag, die US-Regierung habe „eine moralische, ethische und gesellschaftliche Pflicht, dafür zu sorgen, dass KI auf eine Weise eingeführt und weiterentwickelt wird, die die Öffentlichkeit vor potenziellem Schaden schützt und sicherstellt, dass jeder in den Genuss ihrer Vorteile kommen kann“.

Sowohl in den USA als auch im Vereinigten Königreich waren die führenden Unternehmen hinter der KI-Technologie ein wesentlicher Bestandteil der Gespräche darüber, wie die Technologie reguliert werden sollte. Zu den erwarteten Teilnehmern des britischen Weltgipfels gehören neben globalen Führungskräften auch eine lange Liste von Technologiemanagern. In den USA hat Senator Chuck Schumer inzwischen zwei nichtöffentliche Treffen mit überwiegend Vertretern der Technologiebranche abgehalten. Die erste, die im September stattfand, konzentrierte sich auf nationale Sicherheit, Datenschutzfragen und risikoreiche KI-Systeme und umfasste Sam Altman, den CEO von OpenAI; Elon Musk; und Sundar Pichai, der CEO von Google, als Gäste. Die zweite Veranstaltung, die am 24. Oktober stattfand und sich auf Innovation konzentrierte, wurde von einer Mischung aus Technologie-Risikokapitalgebern, Investoren und einigen Akademikern besucht.

Der Gipfel und diese Diskussionen gehen nicht auf die „klare und gegenwärtige Gefahr“ der KI ein und geben Big Tech kein Forum, um auf Selbstregulierung und freiwillige Verpflichtungen zu drängen, sagt eine Expertengruppe, die am Montag einen Gegengipfel organisiert hat. KI-Ethiker und Kritiker, darunter Amba Kak, der Geschäftsführer des AI Now Institute; Safiya Noble, die Gründerin des Center on Race & Digital Justice; Maria Ressa, Journalistin und Mitglied des Real Facebook Oversight Board, sprach auf dem People’s Summit for AI Safety, einer Pressekonferenz, die als „Gegenmittel“ zum britischen Gipfel dienen sollte. „Die britische Regierung hat Unternehmen zugehört, die sich für Selbstregulierung entschieden haben“, sagte Marietje Schaake, ehemalige Europaabgeordnete und Sonderberaterin der Europäischen Kommission für die Umsetzung des Digital Services Act. „Der Gipfel hat es versäumt, eine breitere Vertretung von Experten und Menschen einzuladen, die von KI-bedingten Störungen betroffen sind.“

Die unverhältnismäßige Fokussierung auf die Perspektiven von Technologieführern habe auch dazu geführt, dass sich ein wenig hilfreicher Rahmen dafür etabliert habe, wie sich Regulierung auf Innovationen auswirken könnte, sagte Callie Schroeder, Senior Counsel und Global Privacy Counsel beim gemeinnützigen Electronic Privacy Information Center.

„Sie sind immer noch ein wenig davon überzeugt, dass dies ein Spiel zwischen Privatsphäre und Verbraucherschutz versus Innovation ist, wenn es nicht unbedingt konfrontativ sein muss“, sagte Schroeder. „Es gibt durchaus Möglichkeiten, innovative neue Technologien zu entwickeln und dabei auch auf Risiken zu achten.“

Der Sprecher des Ministeriums für Wissenschaft, Innovation und Technologie sagte, der Gipfel werde „eine breite Palette von Teilnehmern zusammenbringen, darunter internationale Regierungen, Hochschulen, Industrie und Zivilgesellschaft“, um „zielgerichtete und schnelle internationale Maßnahmen“ für eine verantwortungsvolle Entwicklung voranzutreiben der KI.

Beide Länder sind zum Teil auch von dem Wunsch motiviert, auf globaler Ebene zu konkurrieren. Für die USA ist dieser Wettbewerb teilweise auf die Befürchtung zurückzuführen, dass Länder wie China schneller KI-Systeme entwickeln könnten, die auf eine Weise eingesetzt werden könnten, die eine Bedrohung für die nationale Sicherheit darstellt. In einem Brief vom 6. Juni luden Schumer und andere Gesetzgeber die Kongressabgeordneten ein, über das „außergewöhnliche Potenzial und die Risiken, die KI mit sich bringt“, zu diskutieren. Zu den Themen gehörte, wie die USA ihre Führungsrolle in der KI behaupten können und wie die „Gegner“ des Landes KI nutzen. Der Sonderausschuss des Senats für Geheimdienste hat seitdem eine Anhörung zu den Auswirkungen von KI auf die nationale Sicherheit abgehalten, zu der auch Yann LeCun, Vizepräsident und Chef-KI-Wissenschaftler bei Meta, gehörte. (China hat seinerseits Richtlinien vorgeschlagen, die die Produktion großer Sprachmodelle verbieten würden Inhalte, die als regierungskritisch angesehen werden könnten.)

Sunak, der nächstes Jahr vor Parlamentswahlen steht, hat die Position Großbritanniens als intellektueller Führer in der KI betont. „Es wird schwer sein, in der westlichen Welt viele andere Länder außer den USA zu finden, die über mehr Fachwissen und Talent im Bereich KI verfügen“, sagte Sunak kürzlich bei einem Besuch in Washington DC.

Wenn es um die KI-Regulierung geht, argumentieren Experten, dass das Vereinigte Königreich nach dem Brexit versucht, sich von der EU abzuheben.

„Was Großbritannien in Bezug auf KI tut, muss bis zu einem gewissen Grad auf das reagieren, was die EU tut“, sagte Oliver Marsh, Projektleiter bei der Menschenrechtsorganisation AlgorithmWatch. „Wenn das Vereinigte Königreich sich anschaut, was die EU tut, und sagt, das sei wirklich vernünftig, dann ist das ein Problem für Politiker, die behaupten wollen, das Vereinigte Königreich könne Dinge besser machen als die EU.“ Gleichzeitig würde jede radikale Abweichung des Vereinigten Königreichs bestehende wissenschaftliche Kooperationen ins Chaos stürzen, so Marsh.

Die Diskussionen über das EU-KI-Gesetz, das einen risikobasierten, abgestuften Ansatz für die Gesetzgebung zu KI vorschlägt, begannen lange vor der Veröffentlichung von ChatGPT. Dadurch konnten zivilgesellschaftliche Gruppen die gesetzgeberische Aufmerksamkeit erfolgreich auf bestehende Schäden lenken und auf Formulierungen drängen, die Transparenz beim Einsatz „hochriskanter“ KI durch die Strafverfolgungsbehörden sowohl bei der Polizeiarbeit als auch bei der Migrationskontrolle erfordern. Nach Jahren der Entwicklung ist die EU gerade dabei, einige der letzten Details des Gesetzentwurfs auszuarbeiten – die Beteiligten hatten eine Frist bis zum 25. Oktober, um festzulegen, wie die Gesetzgebung Fragen der polizeilichen Überwachung und der generativen KI behandelt.

Doch die EU sei nicht immun gegen den Hype um generative KI, sagte Sarah Chander, leitende Politikanalystin bei European Digital Rights (EDRi). Die EU-Mitgliedstaaten lehnen derzeit die Transparenzvorschläge rund um den Einsatz von KI durch die Polizei ab und versuchen, die Entscheidung darüber, was als hohes Risiko gilt, neu zu klären.

„Wir glauben, dass es wichtig ist, die infrastrukturellen, wirtschaftlichen und ökologischen Bedenken zu berücksichtigen, wenn es um allgemeine KI geht, aber dieser Hype hat die Aufmerksamkeit von [unseren ursprünglichen Prioritäten] abgelenkt und es den Mitgliedstaaten in der EU ermöglicht, der Frage eine geringere Priorität einzuräumen.“ die Strafverfolgung“, sagte Chander.

Während die EU darum kämpft, die erste zu sein, die KI-Vorschriften einführt, drängen Experten die USA und das Vereinigte Königreich weiterhin dazu, ihre Bemühungen auf die Schaffung sinnvoller Gesetze zu konzentrieren, die bestehende KI-Schäden angehen.

„Die Grenze ist da“, sagte Clara Maguire, Geschäftsführerin der gemeinnützigen Journalistenorganisation Citizens. „Wir sind heute Zeugen der Waffeisierung der KI, die durch viele der Unternehmen ermöglicht wird, deren Führungskräfte am Gipfel von Premierminister Sunak teilnehmen.“

Quelle: The Guardian