Das Aufkommen künstlicher allgemeiner Intelligenz (AGI), Systeme, die jede menschliche Aufgabe ausführen können, könnte das wichtigste Ereignis in der Geschichte der Menschheit sein und einen radikalen Einfluss auf alle Aspekte unseres kollektiven Lebens haben. Dennoch bleibt AGI, das bald auftauchen könnte, ein schwer fassbares und kontroverses Konzept. Wir haben keine klare Definition dessen, was es ist, wir wissen nicht, wie wir es erkennen werden, und wir wissen nicht, wie wir damit umgehen sollen, wenn es irgendwann auftaucht.
Was wir jedoch wissen ist, dass die aktuellen Ansätze zur Untersuchung von AGI nicht streng genug sind. In der Branche, in der viele der heutigen Fortschritte in der KI erzielt werden, arbeiten Unternehmen wie OpenAI aktiv an der Schaffung von AGI, beziehen die Forschung zu den sozialen Dimensionen und Sicherheitsproblemen von AGI jedoch nur dann ein, wenn ihre Unternehmensleiter dies für angemessen halten. Während die akademische Gemeinschaft AGI umfassender untersucht und nach den Merkmalen einer neuen Form intelligenten Lebens sucht, verfügen akademische Institutionen nicht über die Ressourcen, um nennenswerte Anstrengungen zu unternehmen.
Wenn man an AGI denkt, kommt einem ein weiteres spekulatives und kaum verstandenes Phänomen in den Sinn, das das Potenzial hat, einen transformativen Einfluss auf die Menschheit zu haben. Wir glauben, dass die Bemühungen des SETI-Instituts zur Entdeckung fortgeschrittener außerirdischer Intelligenz mehrere wertvolle Konzepte aufzeigen, die auf die AGI-Forschung angepasst werden können. Anstatt eine dogmatische oder sensationslüsterne Position einzunehmen, verfolgt das SETI-Projekt einen wissenschaftlich rigorosen und pragmatischen Ansatz: die Einführung der bestmöglichen Mechanismen zur Definition, Erkennung und Interpretation von Anzeichen möglicher außerirdischer Intelligenz.
Die Idee hinter SETI reicht sechzig Jahre zurück, bis zum Beginn des Weltraumzeitalters. In ihrem 1959 Natur In diesem Artikel beschrieben die Physiker Giuseppe Cocconi und Philip Morrison die Notwendigkeit, nach interstellarer Kommunikation zu suchen. Ausgehend von der Ungewissheit über die Existenz außerirdischer Zivilisationen und der technologischen Raffinesse stellten sie Theorien darüber auf, wie eine außerirdische Gesellschaft versuchen würde zu kommunizieren, und diskutierten, wie man Botschaften am besten „abhört“. Inspiriert von dieser Position plädieren wir für einen ähnlichen Ansatz zur Untersuchung von AGI mit all seinen Unsicherheiten.
KI-Forscher diskutieren immer noch darüber, ob es wahrscheinlich ist, dass AGI auftritt und wie man sie erkennt. Die Herausforderungen bei der Definition von AGI und die Schwierigkeiten bei der Messung rechtfertigen jedoch nicht, es zu ignorieren oder den Ansatz „Wir werden es wissen, wenn wir es sehen“ zu verfolgen. Diese Probleme verstärken vielmehr die Notwendigkeit eines interdisziplinären Ansatzes zur Erkennung, Bewertung und Aufklärung der Öffentlichkeit über AGI, einschließlich eines wissenschaftlichen Ansatzes zu den mit AGI verbundenen Risiken.
In den letzten Jahren haben sich die Fähigkeiten der KI enorm weiterentwickelt. Die großen Sprachmodelle (LLMs), die Chatbots wie ChatGPT antreiben und in der Lage sind, überzeugend mit Menschen zu kommunizieren, haben die AGI-Debatte neu entfacht. Beispielsweise wurde in aktuellen Artikeln festgestellt, dass ChatGPT „AGI-Funken“ zeigt, schlussfolgern kann und in vielen Bewertungen den Menschen übertrifft.
Obwohl diese Behauptungen faszinierend und aufregend sind, gibt es Gründe zur Skepsis. Tatsächlich argumentiert eine große Gruppe von Wissenschaftlern, dass die aktuellen Tools uns der echten AGI nicht näher bringen werden. Angesichts der mit AGI verbundenen Risiken müssen wir jedoch ernsthafte Anstrengungen unternehmen, um eine Standarddefinition von AGI zu entwickeln, einen Ansatz für den Typ SETI zu etablieren, um es zu erkennen, und Wege für eine sichere Interaktion zu entwerfen, auch wenn die Wahrscheinlichkeit, dass es auftritt, auch nur gering ist es, wenn es auftaucht.
Der entscheidende erste Schritt besteht darin, genau zu definieren, wonach Sie suchen. Im Fall von SETI beschlossen die Forscher, nach sogenannten Schmalbandsignalen zu suchen, die sich von anderen im kosmischen Hintergrund vorhandenen Radiosignalen unterscheiden. Diese Signale gelten als beabsichtigt und werden nur von intelligentem Leben erzeugt.
Im Fall von AGI sind die Dinge viel komplizierter. Heutzutage gibt es keine klare Definition von „künstlicher allgemeiner Intelligenz“ (andere Begriffe wie starke KI, menschliche Intelligenz und Superintelligenz werden ebenfalls häufig zur Beschreibung ähnlicher Konzepte verwendet). Der Begriff ist schwer zu definieren, da er andere ungenaue und umstrittene Begriffe enthält. Obwohl der Begriff „Intelligenz“ in der definiert ist Oxford Wörterbuch Ebenso wie „die Fähigkeit, Wissen und Fähigkeiten zu erwerben und anzuwenden“ gibt es immer noch viele Debatten darüber, welche Fähigkeiten beteiligt sind und wie sie gemessen werden können. Der Begriff „allgemein“ist auch mehrdeutig. Sollte ein AGI alles können, was ein Mensch kann? Ist Allgemeingültigkeit eine Qualität, die wir als binäre oder kontinuierliche Variable messen?
Eine der ersten Aufgaben eines „SETI for AGI“-Projekts muss darin bestehen, die Begriffe „allgemein“ und „Intelligenz“ klar zu definieren, damit die Forschungsgemeinschaft konkret und kohärent darüber sprechen kann. Diese Definitionen sollten auf den Disziplinen basieren, die das AGI-Konzept unterstützen, wie etwa Informatik, Messwissenschaft, Neurowissenschaften, Psychologie, Mathematik, Ingenieurwesen und Philosophie. Sobald wir klare Definitionen dieser Begriffe haben, müssen wir Wege finden, sie zu messen.
Es stellt sich auch die entscheidende Frage, ob echte AGI Bewusstsein, Persönlichkeit und Selbstbewusstsein umfassen sollte. Auch für diese Begriffe gibt es mehrere Definitionen, und die Beziehungen zwischen ihnen und der Intelligenz müssen geklärt werden. Obwohl allgemein angenommen wird, dass Bewusstsein für Intelligenz nicht notwendig ist, wird es oft mit Diskussionen über AGI in Verbindung gebracht, da die Schaffung einer selbstbewussten Maschine viele philosophische Implikationen hätte, sowohl gesellschaftliche als auch rechtliche. Wäre es genauso wichtig, ein neues großes Sprachmodell zu erkennen, das in der Lage ist, einen IQ-Test besser zu beantworten als ein Mensch, wie eine wirklich bewusste Maschine?
Getty Images
Im Fall von SETI wird eine Expertengruppe überprüfen, ob es sich tatsächlich um eine außerirdische Quelle handelt, wenn ein mögliches Schmalbandsignal entdeckt wird. Sie verwenden etablierte Kriterien (z. B. die Untersuchung von Signaltyp und -quelle und Prüfung auf Wiederholung) und führen alle Bewertungen zur zusätzlichen Validierung über mehrere Einrichtungen hinweg durch.
Wie man Computational Intelligence am besten messen kann, ist eine seit langem bestehende Frage auf diesem Gebiet. In einer berühmten Arbeit aus dem Jahr 1950 schlug Alan Turing das „Nachahmungsspiel“ vor, heute besser bekannt als Turing-Test, bei dem getestet wird, ob menschliche Gesprächspartner unterscheiden können, ob sie mit einem Menschen oder einer Maschine sprechen. Obwohl sich der Turing-Test in der Vergangenheit für Beurteilungen als nützlich erwiesen hat, hat die Verbreitung von LLMs deutlich gemacht, dass er kein ausreichend umfassender Test zur Messung von Intelligenz ist. Wie Turing in seiner Arbeit feststellte, eignet sich das Nachahmungsspiel hervorragend zum Testen, ob ein Computer den Prozess der Sprachgenerierung nachahmen kann, die Beziehung zwischen Sprachnachahmung und Denken bleibt jedoch eine offene Frage. Andere Techniken werden sicherlich notwendig sein.
Diese Einschätzungen müssen sich an verschiedenen Dimensionen der Intelligenz orientieren. Obwohl die Messung der menschlichen Intelligenz umstritten ist, können IQ-Tests eine erste Grundlage für die Beurteilung einer Dimension liefern. Darüber hinaus wären kognitive Tests zu Themen wie kreative Problemlösung, schnelles Lernen und Anpassung, logisches Denken, zielgerichtetes Verhalten und Selbstbewusstsein erforderlich, um die allgemeine Intelligenz einer Person zu beurteilen.
Diese kognitiven Tests werden nützlich sein, aber es ist wichtig zu bedenken, dass sie für Menschen entwickelt wurden und einige Annahmen über grundlegende menschliche Fähigkeiten enthalten können, die möglicherweise nicht auf Computer zutreffen, selbst wenn sie über AGI-Fähigkeiten verfügen. Je nachdem, wie sie trainiert wird, kann eine Maschine beispielsweise bei einem IQ-Test sehr gute Ergebnisse erzielen, aber dennoch nicht in der Lage sein, wesentlich einfachere Aufgaben zu lösen. Darüber hinaus verfügt KI möglicherweise über andere Kommunikationsmodalitäten und -fähigkeiten, die mit unseren herkömmlichen Tests nicht messbar wären.
Es besteht eindeutig die Notwendigkeit, neue Bewertungen zu entwickeln, um den AGI oder seine Unterdimensionen genau zu messen. Dieser Prozess würde auch eine vielfältige Gruppe von Forschern aus verschiedenen Bereichen erfordern, die sich mit KI bestens auskennen, mit den derzeit verfügbaren Tests vertraut sind und über die Fähigkeiten, Kreativität und Weitsicht verfügen, neue Tests zu entwerfen. Wir hoffen, dass diese Maßnahmen uns darauf aufmerksam machen, wenn erhebliche Fortschritte in Richtung AGI erzielt werden.
Sobald wir eine Standarddefinition von AGI entwickelt und Methoden zu seiner Erkennung entwickelt haben, müssen wir einen Weg finden, mit seiner Entstehung umzugehen.
Sobald wir diese neue Form der Intelligenz entdeckt haben, müssen wir bereit sein, Fragen zu beantworten wie: Ist die neu entdeckte Intelligenz eine neue Form des Lebens? Welche Rechte hat er? Welche Rechte haben wir in Bezug auf diese Informationen? Welche potenziellen Sicherheitsprobleme gibt es und welchen Ansatz verfolgen wir zur Verwaltung, Eindämmung und zum Schutz vor AGI?
Auch hier ist SETI eine Inspirationsquelle. SETI verfügt über Protokolle zur Verarbeitung von Beweisen für ein Zeichen außerirdischer Intelligenz. SETI-Post-Detection-Protokolle legen Wert auf Validierung, Transparenz und Zusammenarbeit mit den Vereinten Nationen, mit dem Ziel, die Glaubwürdigkeit des Prozesses zu maximieren, Sensationsgier zu minimieren und einem so tiefgreifenden Ereignis Struktur zu verleihen.
Wie bei der außerirdischen Intelligenz benötigen wir Protokolle für sichere Interaktionen mit AGI. Diese AGI-Protokolle würden als international anerkannter Rahmen für die Validierung neuer AGI-Eigenschaften dienen, Transparenz in den gesamten Prozess bringen, internationale Zusammenarbeit gewährleisten, bewährte Praktiken im Bereich Sicherheit anwenden und alle ethischen, sozialen und philosophischen Bedenken berücksichtigen.
Wir erkennen ohne weiteres an, dass die Analogie zu SETI nicht weiter gehen kann. Wenn AGI auftritt, handelt es sich um ein vom Menschen verursachtes Phänomen. Wir werden AGI wahrscheinlich nach und nach entwerfen und sehen, wie es sich langsam entwickelt, sodass die Erkennung ein Prozess sein könnte, der sich über einen Zeitraum von Jahren oder sogar Jahrzehnten erstreckt. Andererseits haben wir keine Kontrolle über die Existenz außerirdischen Lebens, und der Kontakt könnte sehr plötzlich erfolgen.
Die Entdeckung eines echten AGI wäre die tiefgreifendste Entwicklung in der Geschichte der Wissenschaft und ihre Folgen wären zudem völlig unvorhersehbar. Um uns optimal vorzubereiten, benötigen wir einen methodischen, umfassenden, prinzipiellen und interdisziplinären Ansatz zur Definition, Erkennung und Behandlung von AGI. In Anlehnung an SETI schlagen wir vor, dass die AGI-Forschungsgemeinschaft einen ähnlichen Rahmen schafft, um einen unvoreingenommenen, wissenschaftlichen, transparenten und kollaborativen Ansatz zur Bewältigung der vielleicht wichtigsten Entwicklung in der Geschichte der Menschheit sicherzustellen.
Aus den Artikeln auf Ihrer Website
Verwandte Artikel im Internet