Hat OpenAI insgeheim mit der AGI Q* doch eine gehirnähnliche Intelligenz geschaffen? Was wir über die AGI Q* und den möglichen KI-Durchbruch von OpenAI wissen.
Anfang des Jahres sorgte der CEO von OpenAI, Sam Altman, mit einem Reddit-Post in fünf Worten für Aufsehen in der Tech-Welt: „Die AGI ist intern erreicht. AGI steht für Artificial General Intelligence, das ultimative Ziel der KI-Forschung. Eine echte AGI würde über eine gehirnähnliche Intelligenz verfügen, die denken, kreativ sein und vielleicht sogar ein Bewusstsein haben kann. Altmans Posting über das Erreichen einer KI war eine große Sache und wäre in seiner Bedeutung vergleichbar mit der Ankündigung eines Top-Wissenschaftlers: „Die Kernfusion funktioniert„, oder mit Donald Trumps Aussage: „Ich werde nicht kandidieren„.
Altman behauptete später, sein Posting sei ein Scherz gewesen, aber sein kürzlicher Rauswurf wirft Fragen auf. Berichten zufolge wurde der Vorstand von OpenAI kurz vor Altmans Entlassung über einen wichtigen Durchbruch informiert. Durchgesickerte Dokumente legen nahe, dass der Durchbruch mit einem neuen Modell mit dem Codenamen Q* zusammenhängt. Könnte OpenAI mit Q* doch noch die AGI erreicht haben?
Was ist die AGI Q* und was bedeutet es für die Zukunft der KI?
Vieles von dem, was wir über Q* wissen, stammt aus Berichten von Reuters. Die Nachrichtenagentur sprach mit mehreren anonymen Quellen bei OpenAI und erhielt interne Dokumente über den angeblichen Durchbruch. Aus den Berichten geht hervor, dass Q* intern für Aufsehen sorgte, weil es etwas konnte, was zuvor kein Large Language Model konnte: einfache Mathematik. Das Erreichen dieses Meilensteins mit einem Large Language Model ist ein bedeutender Durchbruch.
Als ich Kognitionswissenschaften an der Johns Hopkins University studierte, war mein Doktorvater ein Professor namens Paul Smolensky. Er hatte eine hitzige Debatte mit einem rivalisierenden Forscher über die Natur der Kognition. Seine Lösung sollte erklären, wie das menschliche Gehirn, das aus miteinander verbundenen Neuronen besteht, symbolisch denken und dabei Operationen wie in der Mathematik ausführen kann.
Symbolisches Denken erfordert normalerweise einen binären Computer, während Gehirne anders funktionieren. Smolensky schlug vor, dass das menschliche Gehirn bei Bedarf eine symbolische „virtuelle Maschine“ einrichten kann. Dieser virtuelle Computer läuft auf der gleichen neuronalen Hardware aus miteinander verbundenen Neuronen, kann aber Operationen ausführen, mit denen ein herkömmliches neuronales Netzwerk Schwierigkeiten hätte.
Wenn der Reuters-Bericht zutrifft, könnte OpenAI ein solches Hybridsystem geschaffen haben, das Silizium und Computerchips anstelle von Neuronen und biologischen Drähten verwendet. Die angebliche Fähigkeit von Q, symbolisch zu denken, deutet darauf hin, dass es ihm gelungen ist, den von Smolensky vorgeschlagenen konnektionistischen „virtuellen Computer“ zu entwickeln. Dieser Sprung ist es wahrscheinlich, der den Vorstand von OpenAI beunruhigt, da er darauf hindeutet, dass Q im Laufe seiner Entwicklung weitere Fähigkeiten entwickeln könnte, die denen des menschlichen Gehirns ähneln.
Entgegen den Befürchtungen der Pessimisten wird Q* wohl nicht das Ende der Welt bedeuten. Auch wenn das Modell einen Durchbruch erzielt hat, der bisher nur dem menschlichen Gehirn vorbehalten war, heißt das noch lange nicht, dass es superintelligent ist, ein Bewusstsein hat oder sich auf dem Niveau einer KI befindet. Sollten die Berichte jedoch zutreffen, könnte OpenAI der Konkurrenz bei der Entwicklung nützlicher KI einen weiteren großen Schritt voraus sein. Ein Modell, das sowohl intuitiv als auch symbolisch denken kann, wäre in Bereichen wie der Verarbeitung natürlicher Sprache, der Medikamentenentwicklung und der Mathematik von enormer Bedeutung.
OpenAI „Durchgesickertes Dokument“ zeigt: Wir sind noch nicht bereit für Q*
Um Sprache zu verstehen, muss man beispielsweise ihre Bedeutung verstehen, aber auch ein Gespür für deterministische Grundlagen wie die Grammatik entwickeln. Die großen Sprachmodelle von heute können Sprache auf statistischer Basis verstehen, aber sie verstehen nicht wirklich die zugrunde liegende symbolische Logik, die allen menschlichen Sprachen zugrunde liegt. Ein Modell wie Q* könnte einen Text zerlegen, den Kontext vollständig verstehen und neue Texte oder Ideen erzeugen, die keinen statistischen Bezug zu den Trainingsdaten haben.
Ebenso könnte ein System, das sowohl die deterministische Mathematik von Prozessen wie der Proteinfaltung als auch die intuitiven Aspekte der Funktionsweise des menschlichen Körpers versteht, blitzschnell neue, nützliche Medikamente erfinden. Selbst wenn Q* existieren sollte, wird es wahrscheinlich noch einige Zeit nicht für den öffentlichen Gebrauch zur Verfügung stehen.
OpenAI wird sich mit den Risiken eines solchen Systems auseinandersetzen müssen, bevor es an die Öffentlichkeit geht. Wenn die Berichte über Q* zutreffen, dann deutet das darauf hin, dass Altman nicht nur schüchtern war, als er in seinem rätselhaften Reddit-Posting auf AGI anspielte.
Auch wenn es noch nicht so weit ist, wäre ein System wie Q* ein großer Schritt in Richtung einer KI, die mehr wie das menschliche Gehirn funktioniert, und in Richtung einer allgemeinen Intelligenz, die so gut denken und schaffen kann wie der Mensch.
