Als der Informatiker Geoffrey Hinton am Dienstag für seine Arbeit zum maschinellen Lernen den Nobelpreis für Physik erhielt, warnte er sofort vor der Leistungsfähigkeit der Technologie, die seine Forschung vorangetrieben hat: künstliche Intelligenz.
„Es wird mit der industriellen Revolution vergleichbar sein“, sagte er unmittelbar nach der Ankündigung. „Aber anstatt die Menschen an körperlicher Stärke zu übertreffen, wird es die Menschen an intellektueller Leistungsfähigkeit übertreffen. Wir haben keine Erfahrung damit, was es bedeutet, Dinge zu haben, die schlauer sind als wir.
Hinton, der Google verließ, um vor den potenziellen Gefahren der KI zu warnen, wurde als Pate der Technologie bezeichnet. Er ist jetzt an der University of Toronto angegliedert und teilte sich den Preis mit Professor John Hopfield von der Princeton University „für grundlegende Entdeckungen und Erfindungen, die maschinelles Lernen mit künstlichen neuronalen Netzen ermöglichen“.
Und während Hinton anerkennt, dass KI Teile der Gesellschaft zum Besseren verändern könnte – was beispielsweise zu einer „enormen Verbesserung der Produktivität“ in Bereichen wie dem Gesundheitswesen führen könnte –, betonte er auch das Potenzial für „eine Reihe möglicher negativer Folgen, insbesondere die Bedrohung“. „Diese Dinge geraten außer Kontrolle.“
„Ich befürchte, dass die Gesamtfolge dieser Situation darin bestehen wird, dass Systeme, die intelligenter sind als wir, am Ende die Kontrolle übernehmen“, sagte er.
Hinton ist nicht der erste Nobelpreisträger, der vor den Risiken der von ihm mitentwickelten Technologie warnt. Hier ist ein Blick auf andere, die ähnliche Warnungen bezüglich ihrer eigenen Arbeit ausgesprochen haben.
1935: Atomwaffen
Den Nobelpreis für Chemie im Jahr 1935 teilten sich das Ehepaar Frédéric Joliot und Irène Joliot-Curie (Tochter der Preisträger Marie und Pierre Curie) für die Entdeckung der ersten künstlich erzeugten radioaktiven Atome. Diese Arbeit würde zu bedeutenden Fortschritten in der Medizin beitragen, insbesondere bei der Behandlung von Krebs, aber auch zur Entwicklung der Atombombe.
In seiner Nobelvorlesung in diesem Jahr schloss Joliot mit der Warnung, dass zukünftige Wissenschaftler „in der Lage sein würden, Transmutationen explosiver Art, regelrechte chemische Kettenreaktionen, auszulösen“.
„Wenn es solchen Transmutationen gelingt, sich durch Materie auszubreiten, kann man sich eine enorme Freisetzung nutzbarer Energie vorstellen“, sagte er. „Aber wenn sich die Ansteckung auf alle Elemente unseres Planeten ausweitet, können die Folgen des Ausbruchs einer solchen Katastrophe leider nur mit Besorgnis betrachtet werden.“
Dennoch, prognostizierte Joliot, es werde „ein Prozess sein, der [future] Die Ermittler werden zweifellos versuchen, dies herauszufinden, indem sie hoffentlich die notwendigen Vorkehrungen treffen.
[1945:Antibiotikaresistenz[1945:Résistanceauxantibiotiques
Sir Alexander Fleming erhielt 1945 gemeinsam mit Ernst Chain und Sir Edward Florey den Nobelpreis für Medizin für die Entdeckung von Penicillin und seine Anwendung bei der Behandlung bakterieller Infektionen.
Fleming machte die erste Entdeckung im Jahr 1928, und als er 1945 seine Nobelvorlesung hielt, hatte er bereits eine wichtige Warnung für die Welt parat: „Es ist nicht schwer, Mikroben im Labor gegen Penicillin resistent zu machen, indem man sie Konzentrationen aussetzt, die nicht kompatibel sind.“ mit Penicillin. genug, um sie zu töten, und manchmal passierte das Gleiche im Körper“, sagte er.
„Vielleicht kommt die Zeit, in der jeder Penicillin im Laden kaufen kann“, fuhr er fort. „Dann besteht die Gefahr, dass der Unwissende leicht eine Unterdosis einnimmt und seine Mikroben dadurch, dass er nichttödlichen Mengen der Droge aussetzt, resistent macht.“
Es war „vor so vielen Jahren ein so wichtiger und vorausschauender Gedanke“, sagte Dr. Jeffrey Gerber, Arzt für Infektionskrankheiten am Children’s Hospital of Philadelphia und medizinischer Direktor des Antimicrobial Stewardship Program.
Fast ein Jahrhundert nach Flemings erster Entdeckung gilt die antimikrobielle Resistenz – die Resistenz von Krankheitserregern wie Bakterien gegen Medikamente, die zu ihrer Behandlung bestimmt sind – nach Angaben der Weltgesundheitsorganisation als eine der größten Bedrohungen für die globale öffentliche Gesundheit und ist im Jahr 2019 für 1,27 Millionen Todesfälle verantwortlich . allein.
Vielleicht lag der Schlüssel zu Flemings Warnung eher in der allzu weit verbreiteten Verwendung von Antibiotika als in der Idee einer niedrigen Dosierung.
„Meistens werden Menschen Antibiotika auf völlig unnötige Weise verabreicht“, sagte Gerber in einer E-Mail gegenüber CNN. Und „immer häufiger sehen wir Insekten, die gegen fast alle (und manchmal alle) Antibiotika, die uns zur Verfügung stehen, resistent sind.“ »
1980: Rekombinante DNA
Paul Berg, der 1980 den Nobelpreis für Chemie für die Entwicklung rekombinanter DNA erhielt, einer Technologie, die zur Wiederbelebung der Biotechnologieindustrie beitrug, warnte nicht so deutlich wie einige seiner Mitpreisträger vor den potenziellen Risiken seiner Forschung.
Er räumte jedoch ein, dass er Befürchtungen über die möglichen Folgen der Gentechnik hat, einschließlich biologischer Kriegsführung, gentechnisch veränderter Lebensmittel und Gentherapie, einer Form der Medizin, bei der ein fehlerhaftes Gen, das Krankheiten verursacht, durch ein normal funktionierendes Gen ersetzt wird.
In seiner Nobelvorlesung von 1980 konzentrierte sich Berg speziell auf die Gentherapie und sagte, dass dieser Ansatz „viele Fallstricke und Unbekannte birgt, darunter Fragen hinsichtlich der Machbarkeit und Wünschbarkeit einer bestimmten genetischen Krankheit, ganz zu schweigen von Risiken“.
„Es scheint mir“, fuhr er fort, „dass wir detailliertere Kenntnisse darüber benötigen, wie menschliche Gene organisiert sind und wie sie funktionieren und reguliert werden, wenn wir jemals in dieser Richtung weitermachen wollen.“
In einem Interview Jahrzehnte später bemerkte Berg, dass er und andere Wissenschaftler auf diesem Gebiet bereits 1975 auf einer Konferenz namens Asilomar öffentlich zusammengekommen seien, um die potenziellen Gefahren der Leitplankentechnologie und -arbeit zu erkennen.
„Die Bedenken hinsichtlich rekombinanter DNA oder Gentechnik kamen von Wissenschaftlern, das war also eine sehr entscheidende Tatsache“, sagte er 2001 der Wissenschaftsjournalistin Joanna Rose, laut einer auf der Website Nobel veröffentlichten Abschrift.
Indem wir die Risiken und die Notwendigkeit, sie anzugehen, öffentlich anerkannten, sagte Berg, „haben wir, wenn Sie so wollen, eine enorme öffentliche Bewunderung und Toleranz gewonnen, und so konnten wir beginnen, uns mit der Frage zu befassen, wie wir das verhindern können.“ Risiken. Gefährliche Dinge, die von unserer Arbeit ausgehen?
Im Jahr 2001 sagte er: „Erfahrungen und Experimente zeigten, dass die anfänglichen Bedenken, die wir tatsächlich für möglich gehalten hatten, tatsächlich nicht bestanden.“
Heutzutage ist die Gentherapie ein wachsender medizinischer Bereich mit zugelassenen Behandlungen für Sichelzellenanämie, Muskeldystrophie und einige erbliche Formen der Blindheit, obwohl sie nicht weit verbreitet ist, da ihre Verabreichung nach wie vor kompliziert und sehr teuer ist. In ihren Anfängen führte die Technologie 1999 zum Tod eines jungen Teilnehmers einer klinischen Studie, des 17-jährigen Jesse Gelsinger, was ethische Fragen zur Art und Weise der Forschungsdurchführung aufwarf und die Arbeit in diesem Bereich verlangsamte.
Und obwohl Berg selbst seine Bedenken zum Ausdruck brachte, schloss er seine Nobelvorlesung 1980 mit einem Aufruf zum Optimismus und der „Notwendigkeit, voranzukommen“.
„Der Durchbruch in der rekombinanten DNA hat uns einen neuen und wirkungsvollen Ansatz für Fragen eröffnet, die den Menschen seit Jahrhunderten faszinieren und quälen“, sagte er. „Ich für meinen Teil würde vor dieser Herausforderung nicht zurückschrecken. »
2020: Genbearbeitung
Vor vier Jahren erhielten Jennifer Doudna und Emmanuelle Charpentier gemeinsam den Nobelpreis für Chemie für die Entwicklung einer Methode zur Genombearbeitung namens CRISPR-Cas9.
In seinem Vortrag erläuterte Doudna „die außergewöhnlichen und aufregenden Möglichkeiten“ für Technologie im öffentlichen Gesundheitswesen, in der Landwirtschaft und in der Biomedizin.
Sie stellte jedoch klar, dass die Arbeit bei menschlichen Keimzellen, deren genetische Veränderungen an die Nachkommen weitergegeben würden, viel vorsichtiger durchgeführt werden müsse als bei somatischen Zellen, bei denen jede genetische Veränderung auf das Individuum beschränkt wäre.
„Die Erblichkeit macht die Bearbeitung des Genoms von Keimzellen zu einem sehr leistungsstarken Werkzeug, wenn wir erwägen, es in Pflanzen einzusetzen oder es beispielsweise zur Erstellung besserer Tiermodelle für menschliche Krankheiten zu verwenden“, sagte Doudna. „Das ist ganz anders, wenn man über die enormen ethischen und gesellschaftlichen Probleme nachdenkt, die die Möglichkeit der Keimbahnbearbeitung beim Menschen mit sich bringt.“
Doudna, Gründerin des Innovative Genomics Institute, sagte diese Woche gegenüber CNN, sie glaube, dass „angemessene Warnungen von Wissenschaftlern vor dem möglichen Missbrauch ihrer Erkenntnisse eine wichtige Verantwortung und einen nützlichen öffentlichen Dienst darstellen, insbesondere wenn die Arbeit weitreichende gesellschaftliche Auswirkungen hat.“
„Diejenigen von uns, die der Wissenschaft von CRISPR am nächsten stehen, wissen, dass es ein wirkungsvolles Werkzeug ist, das unsere Gesundheit und unsere Welt positiv verändern kann, aber möglicherweise auch auf schädliche Weise eingesetzt werden könnte“, erklärte sie. „Wir haben diese Dual-Use-Fähigkeit bei anderen transformativen Technologien wie der Kernenergie gesehen – und jetzt bei der KI.“ »
Christian Edwards und Katie Hunt von CNN haben zu diesem Bericht beigetragen.
Für weitere CNN-Nachrichten und Newsletter erstellen Sie ein Konto bei CNN.com