Michal Kosinski ist Forschungspsychologe an der Stanford University mit einem Gespür für aktuelle Themen. Er sieht in seiner Arbeit nicht nur das Ziel, das Wissen voranzutreiben, sondern auch die Welt vor den potenziellen Gefahren zu warnen, die durch die Folgen von Computersystemen entstehen. Zu seinen bekanntesten Projekten gehörte die Analyse, wie Facebook (heute Meta) jedes Mal, wenn sie auf der Plattform auf „Gefällt mir“ klickten, ein überraschend tiefes Verständnis für seine Nutzer erlangte. Jetzt widmet er sich der Erforschung der überraschenden Dinge, die KI leisten kann. Er hat beispielsweise Experimente durchgeführt, die darauf hindeuten, dass Computer die Sexualität einer Person vorhersagen könnten, indem sie ein digitales Foto ihres Gesichts analysieren.
Ich habe Kosinski durch meine Texte über Meta kennengelernt und bin wieder mit ihm in Kontakt gekommen, um über seine neueste Arbeit zu sprechen, die diese Woche in den von Experten begutachteten Proceedings der National Academy of Sciences veröffentlicht wurde. Sein Fazit ist überraschend. Er sagt, dass große Sprachmodelle wie OpenAI eine Grenze überschritten haben und Techniken verwenden, die dem realen Denken ähneln, das früher nur als Domäne von Menschen aus Fleisch und Blut (oder zumindest von Säugetieren) galt. Insbesondere wurden GPT-3.5 und GPT-4 von OpenAI getestet, um festzustellen, ob sie die sogenannte „Theory of Mind“ beherrschen. Dabei handelt es sich um die im Kindesalter entwickelte Fähigkeit des Menschen, die Denkprozesse anderer Menschen zu verstehen. Dies ist eine wichtige Fähigkeit. Wenn ein Computersystem nicht richtig interpretieren kann, was Menschen denken, wird sein Verständnis der Welt schwächer und es wird in vielen Dingen falsch liegen. Wenn die Modelle ZU TUN Wenn sie über eine Theorie des Geistes verfügen, stehen sie kurz davor, die menschlichen Fähigkeiten zu erreichen und zu übertreffen. Kosinski hat LLMs auf die Probe gestellt und sagt nun, dass seine Experimente zeigen, dass insbesondere in GPT-4 eine Theorie der geistigen Fähigkeiten „als unbeabsichtigtes Nebenprodukt der verbesserten Sprachkenntnisse von LLMs entstanden sein könnte … Sie bedeuten das Aufkommen von mehr.“ leistungsstarke und sozial kompetente KI.
Kosinski sieht seine Arbeit im Bereich KI als natürliche Folge seines früheren Einstiegs in Facebook-Likes. „Ich habe mich nicht wirklich mit sozialen Medien befasst, sondern mit Menschen“, sagt er. Als OpenAI und Google mit der Entwicklung ihrer neuesten generativen KI-Modelle begannen, dachten sie, sie würden ihnen in erster Linie den Umgang mit Sprache beibringen. „Aber sie haben tatsächlich ein menschliches mentales Modell trainiert, denn ohne die Modellierung meines Geistes kann man nicht vorhersagen, welches Wort ich als nächstes sagen werde.“
Kosinski achtet darauf, nicht zu behaupten, dass LLMs die Theorie des Geistes vollständig beherrschen – noch nicht. In seinen Experimenten stellte er einige klassische Probleme von Chatbots vor, die teilweise sehr gut gelöst wurden. Aber selbst das fortschrittlichste Modell, das GPT-4, scheiterte in einem Viertel der Fälle. Die Erfolge, schreibt er, platzieren GPT-4 auf dem Niveau von 6-Jährigen. Nicht schlecht, wenn man den frühen Zustand des Landes bedenkt. „Angesichts der rasanten Fortschritte in der KI fragen sich viele, ob und wann KI möglicherweise ToM oder Bewusstsein erreichen könnte“, schreibt er. Abgesehen von dem radioaktiven C-Wort gibt es eine Menge zu kauen.
„Wenn sich in diesen Modellen die Theorie des Geistes spontan herausbildete, deutet das auch darauf hin, dass dann möglicherweise andere Fähigkeiten entstehen“, sagte er mir. „Mit diesen Fähigkeiten können sie uns besser erziehen, beeinflussen und manipulieren.“ Er befürchtet, dass wir nicht wirklich auf LLMs vorbereitet sind, die die Denkweise der Menschen verstehen. Vor allem, wenn sie den Punkt erreichen, an dem sie Menschen besser verstehen als Menschen.
„Wir Menschen täuschen keine Persönlichkeit vor – wir haben Persönlichkeit“, sagt er. „Also bin ich ein wenig mit meiner Persönlichkeit festgefahren. Diese Dinge Modell Persönlichkeit. Der Vorteil besteht darin, dass sie jederzeit jede gewünschte Persönlichkeit annehmen können. Als ich Kosinski gegenüber erwähne, dass er offenbar einen Soziopathen beschreibt, wird er hellwach. „Ich verwende es in meinen Diskussionen!“ sagte er. „Ein Soziopath kann eine Maske aufsetzen, er ist nicht wirklich traurig, aber er kann die Rolle eines traurigen Menschen spielen.“ Diese Chamäleonkraft könnte die KI zu einem überlegenen Betrüger machen. Ohne Reue.