Die meisten KI-Anwendungen sind positiv und haben zu einer Verbesserung der menschlichen Lebensqualität geführt. Es gibt aber auch kritische Anwendungen, die man kennen sollte, um Risiken möglichst gering zu halten. Das Anliegen dieser Seiten ist, auf mögliche gravierende Risiken hinzuweisen. Hierbei werden einzelne Schwerpunkte gesetzt ohne Anspruch auf Vollständigkeit.
Im Laufe des Jahres 2023 gab es verschiedene Warnungen von renommierten KI-Wissenschaftlern und Verantwortlichen von KI-Unternehmen vor gravierenden Risiken in Zusammenhang mit Entwicklungen der KI. Unterzeichner solcher Warnungen hatten auch eine mögliche Superintelligenz im Sinn.
KI-Erfolge können aber auch andere Risiken haben, wie
- Entwicklung von Autonomen Waffensystemen,
- unkalkulierbare Wechselwirkungen zwischen KI und Atomwaffen,
- Revolution der Kriegsführung durch KI,
- mit Hilfe von KI entwickelte Bio- und Chemiewaffen,
- Desinformation, Deep Fakes,
- Informationsdominanz und Manipulation im Internet.
Systeme wie ChatGPT haben große Fähigkeiten der sprachlichen Kommunikation, Fähigkeiten der Programmierung und interagieren im Internet mit Nutzern und anderen KI-Systemen. Dieser Informationsaustausch hat auch Einfluss auf die KI-Systeme selbst und entzieht sich damit der Kontrolle der Entwickler. Solche Systeme können von Menschen oder Staaten missbraucht werden, oder sogar selbst aktiv werden und den Informationsfluss im Internet beeinflussen. Aufgrund der heutigen Abhängigkeit von der Kommunikation im Internet kann dies erhebliche Folgen für unsere Gesellschaftssysteme haben.
Um die gravierenden Risiken zu reduzieren, ist eine Regulierung der KI erforderlich, wie dies die EU-Verordnung AI Act vorsieht. Da die oben genannten Risiken globale Auswirkungen haben, sind jedoch auch Vereinbarungen mit allen Nationen erforderlich. Als Voraussetzung dafür sollte der derzeitige politische Konfrontationskurs möglichst schnell beendet werden.