In Genf, wo die Wellen des Genfersees sanft an die Ufer plätschern, hat sich die Welt versammelt, um über ein Thema zu diskutieren, das uns alle betrifft: die rasante Entwicklung der künstlichen Intelligenz (KI). UN-Generalsekretär António Guterres ruft zur internationalen Zusammenarbeit auf. Er warnt eindringlich, dass die Technologie sich schneller verbreitet, als wir es mit Schutzmaßnahmen aufnehmen können. Und das ist nicht einfach nur ein theoretisches Gedöns – es betrifft uns alle, vor allem die jüngsten unter uns.

Guterres, der beim ersten globalen Dialog zur KI-Regulierung spricht, mahnt auch, dass die heutige Generation möglicherweise die letzte ist, die die Bedingungen für das Zusammenleben von Mensch und Maschine festlegen kann. Ein Bericht von einem internationalen Wissenschaftsgremium, das von den renommierten Köpfen Yoshua Bengio und Maria Ressa geleitet wird, zeigt ein alarmierendes Ungleichgewicht zwischen den mächtigen KI-Unternehmen und den schwachen Regierungen. Und während KI innerhalb von nur zwei Jahren eine Milliarde Nutzer erreichte, benötigte das Internet dafür satte 15 Jahre! Da kann man schon ins Grübeln kommen.

Der KI-Kindersicherheitspakt

Ein zentrales Thema von Guterres‘ Ansprache ist der Schutz der Kinder. Er schlägt einen „KI-Kindersicherheitspakt“ vor, der drei wesentliche Regeln umfasst. Erstens: KI-Systeme müssen nachweislich kindersicher sein, bevor sie auf den Markt kommen. Zweitens: Null Toleranz, wenn es um die Erstellung von Material über sexuellen Kindesmissbrauch geht. Und drittens – und das ist besonders wichtig – müssen Kinder, die mit KI interagieren, sofort an menschliche Unterstützungsdienste weitergeleitet werden, falls sie in Not geraten. Ein sehr wichtiger Schritt, wie ich finde.

Doch das ist nur die Spitze des Eisbergs. Die UN hat vier Handlungsfelder definiert, um die Herausforderungen der KI anzugehen. Dazu gehören gemeinsame Sicherheitsstandards, verbindliche Menschenrechtsgrenzen, ein globaler KI-Fonds zur Unterstützung von Entwicklungsländern und eine Initiative zur Offenlegung der Umweltauswirkungen. Guterres fordert zudem, dass alle Rechenzentren bis 2030 auf erneuerbare Energien umsteigen. Da könnte man sich fast wünschen, dass er auch ein paar der großen Tech-Unternehmen zur Verantwortung zieht – aber das ist wohl ein anderer Kampf.

EU und der AI Act

<pNeben all diesen Globalisierungsbestrebungen gibt es in Europa auch Fortschritte. Am 21. Mai 2024 hat der Rat der 27 EU-Mitgliedstaaten den AI Act verabschiedet – das erste umfassende Regelwerk für KI weltweit. Ziel ist es, Vertrauen und Akzeptanz in diese Technologien zu schaffen und innovative Lösungen aus Europa zu fördern. Künstliche Intelligenz wird dabei als die Fähigkeit von Maschinen definiert, Aufgaben autonom auszuführen und menschliche Entscheidungsfähigkeiten nachzuahmen. Ein bisschen futuristisch, oder?

Werbung
Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

Der AI Act verfolgt einen risikobasierten Ansatz: Je höher das Risiko, desto strengere Vorgaben. Es dürfen keine KI-Anwendungen existieren, die Grundrechte gefährden oder missbraucht werden können. So sind zum Beispiel Systeme, die das Verhalten von Personen manipulieren oder Social Scoring betreiben, schlichtweg verboten. Für hochriskante Systeme, etwa im Gesundheitswesen oder in der kritischen Infrastruktur, gelten strenge Anforderungen, um auf den EU-Markt zu gelangen. Das klingt alles sehr durchdacht, aber die Umsetzung wird eine Herausforderung sein.

Ein Blick in die Zukunft

Das KI-Gesetz definiert vier Risikostufen für KI-Systeme. Im schlimmsten Fall, beim inakzeptablen Risiko, sind sogar Praktiken wie schädliche Manipulation oder emotionale Ausnutzung von Schwächen verboten. Diese Verbote sollen 2025 in Kraft treten – ein Schritt in die richtige Richtung, aber wer weiß, wie sich die Technologie bis dahin weiterentwickelt. Hochrisikoanwendungen müssen strengen Vorgaben folgen und unterliegen einer Marktüberwachung, was die Verantwortlichen in den Unternehmen sicherlich ins Schwitzen bringen wird.

Während über 170 Länder in Genf an dem Dialog teilnehmen und sich über Bedenken hinsichtlich KI austauschen, ist eines klar: Die Herausforderungen sind groß, und die Möglichkeiten, die diese Technologien bieten, sind ebenso faszinierend wie beunruhigend. Ein zweites globales Treffen ist bereits für nächstes Jahr in New York angesetzt, und ich bin gespannt, was uns dort erwartet. Der Dialog ist eröffnet – jetzt ist es an der Zeit, gemeinsam Lösungen zu finden, bevor die Technologie uns überrollt.