mich würde dabe interessieren, wie sichergestellt werden kann, dass die entwicklung dabei unter fester kontrolle des menschen bleibt. wenn KIs verbesserte KIs entwickeln, dann ist das ganz schnell ein exponentieller prozess. wo das hinführen kann, zeigen diverse SciFi-szenarien eindrucksvoll auf.

ja, aktuell kontrolliert der mensch noch die zugehörige hardware. aber wenn ich nur mal daran denke, dass eine solche KI auch jedem menschlichen hacker weit überlegen sein könnte, sehe ich das als eher temporäres problem.

aktuell reden wir nur von "expertensystemen". aber wann sind diese experten auf breiter themenfront mit expertise ausgestattet?  ???