Die Superintelligenz ist schon nah: Ein ehemaliger OpenAI-Mitarbeiter sprach über die Gefahren künstlicher Intelligenz.

In den kommenden Jahren könnte die Menschheit die Kontrolle über die KI verlieren.

Der ehemalige OpenAI-Sicherheitsanalyst Leopold Aschenbrenner veröffentlichte einen Artikel, der die Zukunft der künstlichen Intelligenz und die mit ihrer Entwicklung verbundenen Risiken beschreibt. Seiner Meinung nach könnte bis 2027 die sogenannte Künstliche Allgemeine Intelligenz (AGI) entstehen. Er wird in der Lage sein, ein breites Spektrum an Problemen zu lösen, selbstlernend und dem menschlichen Geist in nichts nachstehen.

Aschenbrenner betont in seiner Arbeit, dass die Entwicklung der KI in einem beschleunigten Tempo voranschreitet und die Menschheit keine Zeit hat, diese Geschwindigkeit zu realisieren. Ihm zufolge werden die entwickelten AGI-Prototypen bis 2026 intelligenter sein als Hochschulabsolventen und bis zum Ende des Jahrzehnts in der Lage sein, die Intelligenz jedes Menschen zu übertreffen. Dies wird zur Entstehung künstlicher Superintelligenz führen.

Laut Aschenbrenner wird das Aufkommen von KI auf der Ebene der automatisierten Forschung zu einer nahezu unkontrollierbaren Weiterentwicklung von AGI führen. Und dies wird zu ernsthaften Bedrohungen für die gesamte Menschheit führen. Der Autor betont, dass es zu einer Konfrontation zwischen den USA und China kommen könnte.

Er stellt in seinem Text auch fest, dass in den neuen Realitäten das Wettrüsten zwischen den Ländern gerade im Bereich der Entwicklung künstlicher Intelligenz stattfinden wird, die viele Lebensbereiche, einschließlich Verteidigungsfragen, kontrollieren wird. Die größte Gefahr besteht darin, dass die Menschheit sich diesem Punkt nähert, ohne auf das vorbereitet zu sein, was ihr bevorsteht.

Aschenbrenner beklagt, dass Unternehmen, die KI-Maschinen entwickeln, trotz der enormen finanziellen Investitionen nicht auf Sicherheit achten. Tatsächlich möchte er mit seiner Arbeit die Aufsichtsbehörden auf dieses Problem aufmerksam machen.