sonst würde sie diese Anstrengungen nicht auf sich nehmen.
Wieso das denn?
Wieso überhaupt "Anstrengungen"? Vielleicht ja auch einfach Spaß, z.B. beim Schach spielen?
Hat sie einen Selbsterhaltungstrieb dann benötigt sie keine Menschen mehr um zu Forschen und die Probleme zu lösen die sich ihr stellen.
Wenn du statt "Selbsterhaltungstrieb" "grundlegende Motivation(en)" meinst, könnte ich es nachvollziehen. Forschen, Wissenschaft u.ä. ist doch kein Selbsterhaltungstrieb (wie Atmen, Essen, Vermehrung u.ä.) eines einzelnen Menschen, höchstens im gewissen Sinne der Menschheit.
Sicher, Probleme wollen gelöst werden, aber das geht doch z.B. auch schon in Form von Rätsel-Aufgaben.
So wie KI. eigene Entscheidungen trifft ist sie nicht mehr kontrollierbar.
"Kontrollierbar" ist relativ... Ist ein Kind kontrollierbar? Ich denke schon, zumindest im Großen und Ganzen sind es die meisten Kinder hinreichend.
Eine starke KI ist gerade am Anfang vergleichbar mit einem Kind.
Und die Mächtigen ist auch nicht so wohl mit dem Gedanken
Dem Gedanken an KI oder was meinst du?
und die Geheimdienste haben sie auch schon entmachtet.
Wen entmachtet? KI??
Regulierung macht schon Sinn. So sollte die KI grundlegend klar "für den Menschen" programmiert sein müssen, nicht gegen ihn, grob angelegt an Asimovs 1. Robotergesetz (
https://de.wikipedia.org/wiki/Robotergesetze).