Die gestrigen Diskussionen waren mit vielen der Akronyme übersät, die man von dieser hochkarätigen Gruppe von Diskussionsteilnehmern erwarten würde: YC, FTC, AI, LLMs. Aber in den Gesprächen konnte man sagen, dass dies für sie von grundlegender Bedeutung war: die Unterstützung von Open-Source-KI.
Es war ein radikaler Linksruck (oder eine Rückkehr, wenn Sie ein Linux-Fan sind) gegenüber den App-besessenen 2010er-Jahren, als Entwickler ihre Technologien offenbar gerne in Containern verpackten und zur Verbreitung auf größere Plattformen verteilten.
Die Veranstaltung fand auch nur zwei Tage statt, nachdem Mark Zuckerberg, CEO von Meta, gesagt hatte: „Open-Source-KI ist der Weg nach vorne“ und Llama 3.1 veröffentlicht hatte, die neueste Version des Open-Source-KI-Algorithmus von Meta. Wie Zuckerberg in seiner Ankündigung sagte, wollen einige Technologen nicht länger „durch das, was Apple uns bauen lässt, eingeschränkt werden“ oder mit willkürlichen Regeln und Durchsetzungsgebühren rechnen.
Open-Source-KI ist auch der Ansatz von OpenAI nicht OpenAI nutzt seine größten GPTs, ungeachtet dessen, was der Name des milliardenschweren Startups vermuten lässt. Dies bedeutet, dass zumindest ein Teil des Codes privat bleibt und dass OpenAI die „Gewichte“ oder Parameter seiner leistungsstärksten KI-Systeme nicht teilt. Außerdem erhebt das Unternehmen Gebühren für den Zugriff auf seine Technologie auf Unternehmensebene.
„Mit dem Aufkommen zusammengesetzter KI-Systeme und Agentenarchitekturen führt die Verwendung kleiner, aber fein abgestimmter Open-Source-Modelle zu deutlich besseren Ergebnissen als a [OpenAI] GPT4, oder [Google] “Zwillinge.” Dies gilt insbesondere für Unternehmensaufgaben“, sagt Ali Golshan, Mitbegründer und CEO von Gretel.ai, einem Unternehmen für synthetische Daten. (Golshan war bei der YC-Veranstaltung nicht anwesend).
„Ich glaube nicht, dass es OpenAI im Vergleich zum Rest der Welt oder so etwas ist“, sagt Dave Yen, der einen Fonds namens Orange Collective für erfolgreiche YC-Alumni betreibt, die vielversprechende YC-Gründer unterstützen wollen. „Ich denke, es geht darum, einen fairen Wettbewerb und ein Umfeld zu schaffen, in dem Startups nicht Gefahr laufen, über Nacht zu verschwinden, wenn OpenAI seine Preismodelle oder Richtlinien ändert. »
„Das bedeutet nicht, dass wir keine Schutzmaßnahmen haben sollten“, fügte Yen hinzu, „aber wir wollen den Strom auch nicht unnötig einschränken.“ »
Open-Source-KI-Modelle bergen einige inhärente Risiken, vor denen vorsichtigere Technologen gewarnt haben. Das offensichtlichste ist die Technologie Ost offen und frei. Böse Menschen nutzen diese Tools eher für schändliche Zwecke als bei einem teuren privaten KI-Modell. Die Forscher wiesen darauf hin, dass es für böswillige Akteure einfach und kostengünstig ist, die in diesen KI-Modellen vorhandenen Sicherheitseinstellungen zu beseitigen.
„Open Source“ ist auch in einigen KI-Modellen ein Mythos, wie Will Knight von WIRED berichtete. Die zum Trainieren verwendeten Daten werden möglicherweise immer noch geheim gehalten, ihre Lizenzen schränken möglicherweise die Fähigkeit der Entwickler ein, bestimmte Dinge zu erstellen, und letztendlich profitieren sie möglicherweise immer noch mehr als alle anderen vom Ersteller des Originalmodells.
Einige politische Entscheidungsträger haben sich gegen die uneingeschränkte Entwicklung groß angelegter KI-Systeme ausgesprochen, darunter der Senator des US-Bundesstaates Kalifornien, Scott Wiener. Wieners Gesetzentwurf SB 1047 zu KI-Sicherheit und Innovation hat in Technologiekreisen Kontroversen ausgelöst. Ziel ist es, Standards für Entwickler von KI-Modellen zu setzen, deren Ausbildung mehr als 100 Millionen US-Dollar kostet, ein bestimmtes Maß an Sicherheitstests und Red-Teaming vor der Bereitstellung erfordert, Whistleblower schützt, die in KI-Laboren arbeiten, und dem Generalstaatsanwalt Rechtsbehelf einräumt, wenn ein KI-Modell erstellt wird verursacht extremen Schaden.
Wiener selbst sprach bei der YC-Veranstaltung am Donnerstag in einem Gespräch, das von Bloomberg-Reporterin Shirin Ghaffary moderiert wurde. Er sagte, er sei „zutiefst dankbar“ für die Mitglieder der Open-Source-Community, die sich gegen den Gesetzentwurf ausgesprochen hätten, und dass der Staat „als direkte Reaktion auf einige dieser Kritikpunkte eine Reihe von Änderungen vorgenommen“ habe. Eine der vorgenommenen Änderungen, sagte Wiener, bestehe darin, dass der Gesetzentwurf nun klarer einen vernünftigen Weg zur Schließung eines Open-Source-KI-Modells definiere, das aus den Fugen geraten sei.
Der Hauptredner der Veranstaltung am Donnerstag, eine Last-Minute-Ergänzung des Programms, war Andrew Ng, Mitbegründer von Coursera, Gründer von Google Brain und ehemaliger Chefwissenschaftler von Baidu. Ng verteidigte wie viele andere Teilnehmer Open-Source-Modelle.
„Dies ist einer dieser Momente, in denen [it’s determined] „Ob es Unternehmern erlaubt ist, weiterhin innovativ zu sein“, sagte Ng, „oder ob wir Geld ausgeben sollten, das in die Entwicklung von Software fließen würde, um Anwälte einzustellen.“ »