Der CEO von Google Sundar Pachai über einen KI-Ansatz gesprochen, der es ermöglicht, dass eine KI verbesserte weitere KIs erschafft. Mit dem Ansatz konnten schon teilweise bessere KIs geschaffen werden, als es den Experten selber möglich war.
https://www.notebookcheck.com/Google-KI-erschafft-verbesserte-KIs.223366.0.html
mich würde dabe interessieren, wie sichergestellt werden kann, dass die entwicklung dabei unter fester kontrolle des menschen bleibt. wenn KIs verbesserte KIs entwickeln, dann ist das ganz schnell ein exponentieller prozess. wo das hinführen kann, zeigen diverse SciFi-szenarien eindrucksvoll auf.
ja, aktuell kontrolliert der mensch noch die zugehörige hardware. aber wenn ich nur mal daran denke, dass eine solche KI auch jedem menschlichen hacker weit überlegen sein könnte, sehe ich das als eher temporäres problem.
aktuell reden wir nur von "expertensystemen". aber wann sind diese experten auf breiter themenfront mit expertise ausgestattet? ???