ChatGPT: Professor verliert zwei Jahre Arbeit

[Redaktion]

Zwei Jahre Arbeit waren durch einen Klick weg – zumindest beschreibt dies Professor Marcel Bucher in einem Artikel auf Nature. Er schlussfolgert, dass ChatGPT ein Risiko für nachhaltige Arbeit sei. Aber der Chatbot bietet eine Backup-Funktion, die wohl vom Forscher nicht genutzt wurde.

https://www.notebookcheck.com/ChatGPT-Professor-verliert-zwei-Jahre-Arbeit.1211144.0.html

[Jiromusik]

Diese Backup Funktionen funktionieren mehr schlecht als recht: Problem ist und bleibt der Kontext und das Kontext window.
Wichtiger Kontext geht regelmäßig verloren - und da hilft oft auch keine Claude.md File oder Dokumentation: der Kontext, dass es eine Doku gibt geht genauso verloren!

Ich nutze Claude Code jetzt seit 4 Monaten und habe massiv Geld verbrannt - Backups von Dateien werden manchmal angelegt NACHDEM die Datei zum ersten Mal angefasst wurde. Auch wenn es quasi in jeder 10. Nachricht übermittelt wird, wie und wann Backups anzufertigen sind.

Wenn man dieses Ding im Automatik Modus laufen lässt, muss man schon ganz genau hinschauen was man automatisch erlaubt und was nicht. Besonders, wenn es dann um Remote commands via SSH geht - da hilft das native Feature nicht, wenn man bestimmte Kommandos nicht automatisch erlauben will, oder man muss sich wirklich ein System mit Skripten aufbauen.

[Rapha]

Das kann man nur mit 2 Worten beschreiben: Pure Dummheit.

ChatGPT ist ein WERKZEUG – wer dort wichtige Dinge aufbewahrt, dem ist nicht mehr zu helfen. Es gibt so viele gute MarkDown Tools – sogar kostenlos (z.B. Obsidian) – die perfekt für LMM-Ergebnis-Archivierung geeignet sind.

[Jochen5678]

Kein Backup? Kein Mitleid!

[BCout]

"We are increasingly being encouraged to integrate generative AI into research and teaching"

Selten so einen Schwachsinn gelesen. Alle sind Schuld nur er nicht xD

Nature ist auch nicht mehr das, was es mal war..

[Res]

"Wenn ein einziger Klick Jahre an Arbeit unwiderruflich löschen kann, kann ChatGPT meiner Meinung nach und aufgrund meiner Erfahrung nicht als vollständig sicher für den professionellen Gebrauch angesehen werden." Zum Glück hat er geklickt, sonst wäre dem Professor diese bahnbrechende Erkenntnis wohl nie gekommen. "Ein Professor an der Uni Köln hielt ChatGPT 2 Jahre lang für vollständig sicher für den professionellen Gebrauch" sollte die eigentliche Schlagzeile sein.

[Rendermani]

Diese Backup Funktionen funktionieren mehr schlecht als recht: Problem ist und bleibt der Kontext und das Kontext window.
Wichtiger Kontext geht regelmäßig verloren - und da hilft oft auch keine Claude.md File oder Dokumentation: der Kontext, dass es eine Doku gibt geht genauso verloren!

Ich nutze Claude Code jetzt seit 4 Monaten und habe massiv Geld verbrannt - Backups von Dateien werden manchmal angelegt NACHDEM die Datei zum ersten Mal angefasst wurde. Auch wenn es quasi in jeder 10. Nachricht übermittelt wird, wie und wann Backups anzufertigen sind.

Wenn man dieses Ding im Automatik Modus laufen lässt, muss man schon ganz genau hinschauen was man automatisch erlaubt und was nicht. Besonders, wenn es dann um Remote commands via SSH geht - da hilft das native Feature nicht, wenn man bestimmte Kommandos nicht automatisch erlauben will, oder man muss sich wirklich ein System mit Skripten aufbauen.

Ich arbeite mit GitHub Issues und lasse sie von Claude verwalten. Claude kann alte issues suchen, tagen, kommentieren usw. Damit hat man mehr Struktur.

Ich versuche gerade auch einen dedizierten SSH User mit dem du KI zwar analysieren kann aber nicht verändern. Das ist aber nicht ganz so leicht. Den deploy key, der mehr kann, habe ich dann in 1Passwort und vor dem deployen einmal mit Fingerabdruck bestätigen. Was die KI nämlich gut kann ist nach Key suchen und selbst das "Problem lösen".