97889 64456 72312 47532 85224 72311 99738 05314 18822 88877 83701 91188 72106 98803 83485 70762 67561 00923 55229 06479 57972 59061 74949 93171 14807 03728 86417 14924 55271 76483 09709 80826 48003 69756 41326 33857 90179 16007 50123 74390 32549 30315 44217 63317 75601 80709 41762 62320 18455 61834 28274 17965 11564 40730 97515 38882 00045 18375 34435 87730 65633 86354 42635 03181 37624 00288 29224 98754 64198 42645 13159 80277 57942 84214 09885 11406 37363 27238 16160 82824 82750 03902 45252 98749 86602 85405 74120 11069 70749 63642 54482 33973 81058 25338 11638 53184 38067 75862 58160 05931 81160 94118 63131 11678 37627 13358 15577 41533 20376 02073 54475 97260 40548 91470 84971 47067 00960 20371 54295 32383 70544 08125 72446 96640 07075 16165 30869 08344 20223 85830 11652 84248 58240 18720 83640 74865 63798 26432 11368 91553 98930 40390 63732 07578 52004 83379 91665 87295 27594 70342 33614 00445 56766 74846 32119 67664 51801 34739 44392 32414 80290 43295 50949 32938 59188 82226 64963 12065 07486 96473 17151 41690 05059 80565 72757 89563 68610 87113 78719 74762 26213 13426 23716 54025 70952 73308 30338 98371 80443 39662 15506 33308 53719 47268 57523 71539 98084 43052 68615 92226 35372 86296 82533 08533 12606 77475 19780 50069 42332 94775 84463 97795 86712 89454 36026 27730 87899 25252 69813 38682 Was können KI-Forscher von außerirdischen Jägern lernen? – MJRBJC

Das Aufkommen künstlicher allgemeiner Intelligenz (AGI), Systeme, die jede menschliche Aufgabe ausführen können, könnte das wichtigste Ereignis in der Geschichte der Menschheit sein und einen radikalen Einfluss auf alle Aspekte unseres kollektiven Lebens haben. Dennoch bleibt AGI, das bald auftauchen könnte, ein schwer fassbares und kontroverses Konzept. Wir haben keine klare Definition dessen, was es ist, wir wissen nicht, wie wir es erkennen werden, und wir wissen nicht, wie wir damit umgehen sollen, wenn es irgendwann auftaucht.

Was wir jedoch wissen ist, dass die aktuellen Ansätze zur Untersuchung von AGI nicht streng genug sind. In der Branche, in der viele der heutigen Fortschritte in der KI erzielt werden, arbeiten Unternehmen wie OpenAI aktiv an der Schaffung von AGI, beziehen die Forschung zu den sozialen Dimensionen und Sicherheitsproblemen von AGI jedoch nur dann ein, wenn ihre Unternehmensleiter dies für angemessen halten. Während die akademische Gemeinschaft AGI umfassender untersucht und nach den Merkmalen einer neuen Form intelligenten Lebens sucht, verfügen akademische Institutionen nicht über die Ressourcen, um nennenswerte Anstrengungen zu unternehmen.

Wenn man an AGI denkt, kommt einem ein weiteres spekulatives und kaum verstandenes Phänomen in den Sinn, das das Potenzial hat, einen transformativen Einfluss auf die Menschheit zu haben. Wir glauben, dass die Bemühungen des SETI-Instituts zur Entdeckung fortgeschrittener außerirdischer Intelligenz mehrere wertvolle Konzepte aufzeigen, die auf die AGI-Forschung angepasst werden können. Anstatt eine dogmatische oder sensationslüsterne Position einzunehmen, verfolgt das SETI-Projekt einen wissenschaftlich rigorosen und pragmatischen Ansatz: die Einführung der bestmöglichen Mechanismen zur Definition, Erkennung und Interpretation von Anzeichen möglicher außerirdischer Intelligenz.

Die Idee hinter SETI reicht sechzig Jahre zurück, bis zum Beginn des Weltraumzeitalters. In ihrem 1959 Natur In diesem Artikel beschrieben die Physiker Giuseppe Cocconi und Philip Morrison die Notwendigkeit, nach interstellarer Kommunikation zu suchen. Ausgehend von der Ungewissheit über die Existenz außerirdischer Zivilisationen und der technologischen Raffinesse stellten sie Theorien darüber auf, wie eine außerirdische Gesellschaft versuchen würde zu kommunizieren, und diskutierten, wie man Botschaften am besten „abhört“. Inspiriert von dieser Position plädieren wir für einen ähnlichen Ansatz zur Untersuchung von AGI mit all seinen Unsicherheiten.

KI-Forscher diskutieren immer noch darüber, ob es wahrscheinlich ist, dass AGI auftritt und wie man sie erkennt. Die Herausforderungen bei der Definition von AGI und die Schwierigkeiten bei der Messung rechtfertigen jedoch nicht, es zu ignorieren oder den Ansatz „Wir werden es wissen, wenn wir es sehen“ zu verfolgen. Diese Probleme verstärken vielmehr die Notwendigkeit eines interdisziplinären Ansatzes zur Erkennung, Bewertung und Aufklärung der Öffentlichkeit über AGI, einschließlich eines wissenschaftlichen Ansatzes zu den mit AGI verbundenen Risiken.

In den letzten Jahren haben sich die Fähigkeiten der KI enorm weiterentwickelt. Die großen Sprachmodelle (LLMs), die Chatbots wie ChatGPT antreiben und in der Lage sind, überzeugend mit Menschen zu kommunizieren, haben die AGI-Debatte neu entfacht. Beispielsweise wurde in aktuellen Artikeln festgestellt, dass ChatGPT „AGI-Funken“ zeigt, schlussfolgern kann und in vielen Bewertungen den Menschen übertrifft.

Obwohl diese Behauptungen faszinierend und aufregend sind, gibt es Gründe zur Skepsis. Tatsächlich argumentiert eine große Gruppe von Wissenschaftlern, dass die aktuellen Tools uns der echten AGI nicht näher bringen werden. Angesichts der mit AGI verbundenen Risiken müssen wir jedoch ernsthafte Anstrengungen unternehmen, um eine Standarddefinition von AGI zu entwickeln, einen Ansatz für den Typ SETI zu etablieren, um es zu erkennen, und Wege für eine sichere Interaktion zu entwerfen, auch wenn die Wahrscheinlichkeit, dass es auftritt, auch nur gering ist es, wenn es auftaucht.

Der entscheidende erste Schritt besteht darin, genau zu definieren, wonach Sie suchen. Im Fall von SETI beschlossen die Forscher, nach sogenannten Schmalbandsignalen zu suchen, die sich von anderen im kosmischen Hintergrund vorhandenen Radiosignalen unterscheiden. Diese Signale gelten als beabsichtigt und werden nur von intelligentem Leben erzeugt.

Im Fall von AGI sind die Dinge viel komplizierter. Heutzutage gibt es keine klare Definition von „künstlicher allgemeiner Intelligenz“ (andere Begriffe wie starke KI, menschliche Intelligenz und Superintelligenz werden ebenfalls häufig zur Beschreibung ähnlicher Konzepte verwendet). Der Begriff ist schwer zu definieren, da er andere ungenaue und umstrittene Begriffe enthält. Obwohl der Begriff „Intelligenz“ in der definiert ist Oxford Wörterbuch Ebenso wie „die Fähigkeit, Wissen und Fähigkeiten zu erwerben und anzuwenden“ gibt es immer noch viele Debatten darüber, welche Fähigkeiten beteiligt sind und wie sie gemessen werden können. Der Begriff „allgemein“ist auch mehrdeutig. Sollte ein AGI alles können, was ein Mensch kann? Ist Allgemeingültigkeit eine Qualität, die wir als binäre oder kontinuierliche Variable messen?

Eine der ersten Aufgaben eines „SETI for AGI“-Projekts muss darin bestehen, die Begriffe „allgemein“ und „Intelligenz“ klar zu definieren, damit die Forschungsgemeinschaft konkret und kohärent darüber sprechen kann. Diese Definitionen sollten auf den Disziplinen basieren, die das AGI-Konzept unterstützen, wie etwa Informatik, Messwissenschaft, Neurowissenschaften, Psychologie, Mathematik, Ingenieurwesen und Philosophie. Sobald wir klare Definitionen dieser Begriffe haben, müssen wir Wege finden, sie zu messen.

Es stellt sich auch die entscheidende Frage, ob echte AGI Bewusstsein, Persönlichkeit und Selbstbewusstsein umfassen sollte. Auch für diese Begriffe gibt es mehrere Definitionen, und die Beziehungen zwischen ihnen und der Intelligenz müssen geklärt werden. Obwohl allgemein angenommen wird, dass Bewusstsein für Intelligenz nicht notwendig ist, wird es oft mit Diskussionen über AGI in Verbindung gebracht, da die Schaffung einer selbstbewussten Maschine viele philosophische Implikationen hätte, sowohl gesellschaftliche als auch rechtliche. Wäre es genauso wichtig, ein neues großes Sprachmodell zu erkennen, das in der Lage ist, einen IQ-Test besser zu beantworten als ein Mensch, wie eine wirklich bewusste Maschine?

Ein auf dem Rücken liegender Roboter blickt in die SterneGetty Images

Im Fall von SETI wird eine Expertengruppe überprüfen, ob es sich tatsächlich um eine außerirdische Quelle handelt, wenn ein mögliches Schmalbandsignal entdeckt wird. Sie verwenden etablierte Kriterien (z. B. die Untersuchung von Signaltyp und -quelle und Prüfung auf Wiederholung) und führen alle Bewertungen zur zusätzlichen Validierung über mehrere Einrichtungen hinweg durch.

Wie man Computational Intelligence am besten messen kann, ist eine seit langem bestehende Frage auf diesem Gebiet. In einer berühmten Arbeit aus dem Jahr 1950 schlug Alan Turing das „Nachahmungsspiel“ vor, heute besser bekannt als Turing-Test, bei dem getestet wird, ob menschliche Gesprächspartner unterscheiden können, ob sie mit einem Menschen oder einer Maschine sprechen. Obwohl sich der Turing-Test in der Vergangenheit für Beurteilungen als nützlich erwiesen hat, hat die Verbreitung von LLMs deutlich gemacht, dass er kein ausreichend umfassender Test zur Messung von Intelligenz ist. Wie Turing in seiner Arbeit feststellte, eignet sich das Nachahmungsspiel hervorragend zum Testen, ob ein Computer den Prozess der Sprachgenerierung nachahmen kann, die Beziehung zwischen Sprachnachahmung und Denken bleibt jedoch eine offene Frage. Andere Techniken werden sicherlich notwendig sein.

Diese Einschätzungen müssen sich an verschiedenen Dimensionen der Intelligenz orientieren. Obwohl die Messung der menschlichen Intelligenz umstritten ist, können IQ-Tests eine erste Grundlage für die Beurteilung einer Dimension liefern. Darüber hinaus wären kognitive Tests zu Themen wie kreative Problemlösung, schnelles Lernen und Anpassung, logisches Denken, zielgerichtetes Verhalten und Selbstbewusstsein erforderlich, um die allgemeine Intelligenz einer Person zu beurteilen.

Diese kognitiven Tests werden nützlich sein, aber es ist wichtig zu bedenken, dass sie für Menschen entwickelt wurden und einige Annahmen über grundlegende menschliche Fähigkeiten enthalten können, die möglicherweise nicht auf Computer zutreffen, selbst wenn sie über AGI-Fähigkeiten verfügen. Je nachdem, wie sie trainiert wird, kann eine Maschine beispielsweise bei einem IQ-Test sehr gute Ergebnisse erzielen, aber dennoch nicht in der Lage sein, wesentlich einfachere Aufgaben zu lösen. Darüber hinaus verfügt KI möglicherweise über andere Kommunikationsmodalitäten und -fähigkeiten, die mit unseren herkömmlichen Tests nicht messbar wären.

Es besteht eindeutig die Notwendigkeit, neue Bewertungen zu entwickeln, um den AGI oder seine Unterdimensionen genau zu messen. Dieser Prozess würde auch eine vielfältige Gruppe von Forschern aus verschiedenen Bereichen erfordern, die sich mit KI bestens auskennen, mit den derzeit verfügbaren Tests vertraut sind und über die Fähigkeiten, Kreativität und Weitsicht verfügen, neue Tests zu entwerfen. Wir hoffen, dass diese Maßnahmen uns darauf aufmerksam machen, wenn erhebliche Fortschritte in Richtung AGI erzielt werden.

Sobald wir eine Standarddefinition von AGI entwickelt und Methoden zu seiner Erkennung entwickelt haben, müssen wir einen Weg finden, mit seiner Entstehung umzugehen.

Sobald wir diese neue Form der Intelligenz entdeckt haben, müssen wir bereit sein, Fragen zu beantworten wie: Ist die neu entdeckte Intelligenz eine neue Form des Lebens? Welche Rechte hat er? Welche Rechte haben wir in Bezug auf diese Informationen? Welche potenziellen Sicherheitsprobleme gibt es und welchen Ansatz verfolgen wir zur Verwaltung, Eindämmung und zum Schutz vor AGI?

Auch hier ist SETI eine Inspirationsquelle. SETI verfügt über Protokolle zur Verarbeitung von Beweisen für ein Zeichen außerirdischer Intelligenz. SETI-Post-Detection-Protokolle legen Wert auf Validierung, Transparenz und Zusammenarbeit mit den Vereinten Nationen, mit dem Ziel, die Glaubwürdigkeit des Prozesses zu maximieren, Sensationsgier zu minimieren und einem so tiefgreifenden Ereignis Struktur zu verleihen.

Wie bei der außerirdischen Intelligenz benötigen wir Protokolle für sichere Interaktionen mit AGI. Diese AGI-Protokolle würden als international anerkannter Rahmen für die Validierung neuer AGI-Eigenschaften dienen, Transparenz in den gesamten Prozess bringen, internationale Zusammenarbeit gewährleisten, bewährte Praktiken im Bereich Sicherheit anwenden und alle ethischen, sozialen und philosophischen Bedenken berücksichtigen.

Wir erkennen ohne weiteres an, dass die Analogie zu SETI nicht weiter gehen kann. Wenn AGI auftritt, handelt es sich um ein vom Menschen verursachtes Phänomen. Wir werden AGI wahrscheinlich nach und nach entwerfen und sehen, wie es sich langsam entwickelt, sodass die Erkennung ein Prozess sein könnte, der sich über einen Zeitraum von Jahren oder sogar Jahrzehnten erstreckt. Andererseits haben wir keine Kontrolle über die Existenz außerirdischen Lebens, und der Kontakt könnte sehr plötzlich erfolgen.

Die Entdeckung eines echten AGI wäre die tiefgreifendste Entwicklung in der Geschichte der Wissenschaft und ihre Folgen wären zudem völlig unvorhersehbar. Um uns optimal vorzubereiten, benötigen wir einen methodischen, umfassenden, prinzipiellen und interdisziplinären Ansatz zur Definition, Erkennung und Behandlung von AGI. In Anlehnung an SETI schlagen wir vor, dass die AGI-Forschungsgemeinschaft einen ähnlichen Rahmen schafft, um einen unvoreingenommenen, wissenschaftlichen, transparenten und kollaborativen Ansatz zur Bewältigung der vielleicht wichtigsten Entwicklung in der Geschichte der Menschheit sicherzustellen.

Aus den Artikeln auf Ihrer Website

Verwandte Artikel im Internet

By rb8jg

Leave a Reply

Your email address will not be published. Required fields are marked *

Failed to fetch data from the URL.