Security by Design ist wohl etwas, was die Developer bei OpenAI noch nicht gehört haben. Bis Freitag hatte die kürzlich von OpenAI vorgestellte ChatGPT macOS-App ein potenziell besorgniserregendes Sicherheitsproblem. Es war nicht schwer, die auf dem eigenen Computer gespeicherten Chats zu finden und sie zu lesen, denn sie wurden in Klartext gespeichert. Das bedeutete, dass eine bösartige Person oder App, die Zugriff auf den Computer hatte, leicht alle Unterhaltungen mit ChatGPT und die darin enthaltenen Daten lesen konnte.

Wie Pedro José Pereira Vieito auf Metas Threads demonstrierte, war es aufgrund des einfachen Zugriffs möglich, eine andere App auf diese Dateien zugreifen zu lassen und den Text einer Unterhaltungen direkt nach dem Geschehen anzuzeigen. Pereira Vieito hat die von ihm entwickelte App zur Verfügung gestellt, und The Verge hat sie benutzt, um ein Video zu drehen, das zeigt, wie die OpenAI App eine ChatGPT-Unterhaltungen mit einem Mausklick lesen kann. Es ist auch nicht sonderlich schwer, die Dateien auf dem Computer zu finden und den Text der Unterhaltungen zu sehen, indem man einfach den Dateinamen ändert.

Video: The Verge / Jay Peters

Nachdem The Verge OpenAI wegen des Problems kontaktiert hatte, veröffentlichte das Unternehmen ein Update, das die Chats verschlüsselt. Man sei sich dieses Problems bewusst und habe eine neue Version der Anwendung ausgeliefert, die diese Unterhaltungen verschlüsselt. Klar, das fällt ihnen auf, nachdem die Sicherheitslücke viral ging.

So sagt OpenAI-Sprecherin Taya Christianson in einer Stellungnahme an The Verge. “Wir sind bestrebt, ein hilfreiches Nutzererlebnis zu bieten und gleichzeitig unsere hohen Sicherheitsstandards beizubehalten, während sich unsere Technologie weiterentwickelt.”

Ah ja. Macht es irgendwie auch nicht besser. Zudem ist die App nicht sandboxed, also läuft nicht in einem abgeschotteten userspace, was unter MacOS eigentlich möglich wäre. Vertrauenerweckend ist das nicht gerade. Das Update auf die Version 1.2024.171 unterbindet wenigstens diese Sicherheitslücke. Und auch die App von Pereira Vieito für nicht mehr, wie The Verge berichtet.

OpenAI bietet die ChatGPT macOS-App nur über seine eigene Website an, was bedeutet, dass die App nicht die Sandbox-Anforderungen von Apple erfüllen muss, die für Software gelten, die über den Mac App Store vertrieben wird. Die iOS-App hingegen dürfte soweit sicher sein. Auf dem Desktop von Apple sollte man also dringend die neue Version herunterladen.

‎ChatGPT

Preis: Kostenlos⁺

Bekannt ist, dass OpenAI die Chats und alle Daten aus ChatGPT zum Training der eigenen Modelle benutzt, wenn man diesem nicht explizit widerspricht. Dazu muss man jedoch ein Abo abgeschlossen haben, was derzeit um die 20 SFr. bzw. Euro im Monat kostet. Wenigstens OpenAI in San Francisco kann also sowieso alles in Klartext lesen. Man sollte jedoch davon ausgehen dürfen, dass dies nicht für unbekannte Dritte gilt, die nur wissen müssen, wo sie suchen sollen.

Nun mag jemand argumentieren, es sei halb so schlimm, schliesslich sei es lokal im User-Ordner und da hat ja nicht so ohne weiteres jede unbefugte Person Zugriff. Zudem sei ja auch in ChatGPT nichts geheimes oder wichtiges. Doch dem ist bei Weitem nicht so. Man denke nur queere Jugendliche, die sich noch nicht outen, Opfer von häuslicher Gewalt, ungewollt schwangere Teenager – es gibt viele Menschen, die alles andere als sicher sind, wenn ihre Eingaben, die sie für vertraulich halten, doch von Dritten gelesen werden können. Einmal mehr hat BigTech doch arg enttäuscht und eine so grundlegende Funktion wie verschlüsselte Verläufe nicht mit gedacht. Dabei ist es gerade unter MacOS denkbar einfach, für jeden Account einen eigenen Schlüssel zum Verschlüsseln von Daten zu nutzen, der sicher im Schlüsselbund abgespeichert und nicht von dritten lesbar verwahrt wird. ein halbgares Produkt auf den Markt zu werfen, sollte heutzutage eigentlich Konsequenzen haben für die Firma, gerade wenn es sich wie bei OpenAI mit rund 80 Milliarden US-Dollar um eine doch höchstkapitalisierten der Welt handelt.

Quellen: Pedro José Pereira Vieito auf Threads (Englisch), The Verge (Englisch)