Foto: Ascannio/Shutterstock
Der Hype um Künstliche Intelligenz (KI) wuchs bereits seit Jahren, aber seit der großflächigen Einführung von OpenAI’s ChatGPT Ende 2022 ist er offiziell zu einem bedeutenden Thema geworden.
Charles Hoskinson, der Gründer von Cardano (ADA), äußert jedoch seine Bedenken bezüglich der Entwicklungen. Seiner Meinung nach sind die Fortschritte mit großen Risiken verbunden.
Cardano (ADA) Gründer nicht erfreut über KI
Auf der Social-Media-Plattform X erklärt Hoskinson, dass er sich vor allem um etwas namens „Alignment Training“ sorgt. Dies bedeutet, dass KI-Modelle den Richtlinien entsprechen müssen, die die Entwickler festlegen. Wenn diese der Meinung sind, dass ein KI-Modell nichts über ein bestimmtes Thema lernen oder erklären darf, passt sich das KI-Modell entsprechend an.
Das bedeutet jedoch auch, dass tatsächlich Zensur stattfindet. Die Person, die mit dem KI-Modell interagiert, hat somit keinen Zugang zu bestimmten Informationen. Diejenigen, die bestimmen, was du sehen darfst und was nicht, können nicht wie Regierungsbeamte abgewählt werden, argumentiert Hoskinson.
Gleichzeitig gibt es einen Grund für dieses „Alignment Training“. Regierungen arbeiten hart daran, zu verhindern, dass die Computermodelle gefährlich werden. Hoskinson führt als Beispiel an, dass die KI-Modelle von Anthropic und OpenAI nur wenig Informationen darüber teilen möchten, wie man einen Fusionsreaktor baut. Es kann natürlich gefährlich sein, einen solchen Reaktor zu bauen.
I continue to be concerned about the profound implications of AI censorship. They are losing utility over time due to „alignment“ training . This means certain knowledge is forbidden to every kid growing up, and that’s decided by a small group of people you’ve never met and can’t… pic.twitter.com/oxgTJS2EM2
— Charles Hoskinson (@IOHK_Charles) June 30, 2024
KI wächst schnell, aber zu welchem Preis?
KI wird auf vielfältige Weise in rasantem Tempo intelligenter, aber gleichzeitig zeigt sich regelmäßig, dass die Technik nicht immer einen positiven Einfluss hat. Die verschiedenen öffentlichen Modelle sind zwar sehr beliebt geworden, aber sie sind bei weitem nicht immer genau. Alle KI-Chatbots produzieren immer noch in hohem Maße ungenaue Informationen und neigen oft sogar dazu, zu „halluzinieren“. Das bedeutet, dass diese Systeme manchmal vollständig fiktive oder inkorrekte Daten als Antwort auf Fragen generieren.
Inzwischen hat die KI-Branche dafür gesorgt, dass Nvidia kurzfristig das größte Unternehmen der Welt wurde. Nvidia ist der Chipdesigner, der viele der wichtigen KI-Hardware liefert. Doch dieses enorme Wachstum geht mit neuen Sorgen einher. Seit Monaten kursieren Nachrichten, dass die Branche möglicherweise in einer Blase steckt.
