Zum Welttag der Konsumentenrechte: Konsumentenbund warnt vor den Gefahren von KI im Alltag

«Was besprichst du eigentlich mit deiner KI?» Datenschutz ist wichtiger denn je: Von der Datenweitergabe über den fehlenden Rechtsschutz bis hin zu neuen Betrugsmaschen – der Schweizerische Konsumentenbund klärt auf.

Safe Products, confident consumers

«Safe Products, confident consumers» – so lautet das Motto des diesjährigen Tages der Konsumentinnen- und Konsumentenrechte. Ist ein Produkt sicher, dann sind die, die es verwenden, selbstbewusst im Umgang damit. Das ist sicherlich teilweise wahr, aber eben nur teilweise. Denn an Selbstbewusstsein im Umgang mit Künstlicher Intelligenz (KI) scheint es den Leuten nicht zu mangeln, obwohl nur die wenigsten wissen, was im Nachgang mit ihren Daten geschieht. Die Frage nach der Sicherheit ist oft nebensächlich.

Ein Versprechen der Zukunft wurde zur Gegenwart. KI ist nun überall: als Thema in den Medien, als App auf unseren Handys zum Informieren, Beraten, Übersetzen, Schreiben und leider auch zum Täuschen. Antworten, die man vorher im Internet suchte, werden jetzt zu Fragen, die man einer generativen KI wie ChatGPT, Google Gemini oder Claude stellt. Es beginnt mit einer Frage zur Platzierung der Couch, dann zum passenden Haarschnitt und wird zum Gefühlsstriptease. Die KI scheint alles zu können und als Bonus obendrauf kann sie einen nicht verurteilen – zumindest denken so wohl viele.

Doch Künstliche Intelligenz birgt Gefahren. Die Sicherheit der eigenen Daten kann nicht einfach vorausgesetzt werden. Verantwortungsvoller Einsatz und ein wachsamer Umgang mit den eigenen Daten sind ein Muss. Deshalb bin ich für den diesjährigen Tag der Konsumentinnen- und Konsumentenrechte der Frage nachgegangen, wie wir unsere Daten schützen können und wo die grössten Risiken lauern.

Der Beobachter antwortet jetzt per KI – ein Blick hinter den Chatbot

Mein erstes Gespräch führt mich zum Chatbot des bekannten Schweizer Konsumentenmagazins Beobachter. Ich will wissen: Was passiert da eigentlich mit unseren Daten? Seit Mitte letzten Jahres können sich Konsumentinnen und Konsumenten mit ihren Anliegen an den Bot wenden. Ich teste diesen und stelle eine rechtliche Frage. Bevor ich sie eintippen kann, erhalte ich drei Nachrichten: Es handle sich um eine KI, die Fehler machen kann, eine Haftung wird ausgeschlossen, ich soll keine persönlichen Daten preisgeben und werde auf die AGB hingewiesen. So sichert sich der Beobachter ab.

Andreas Thut, Brand Business Owner des Beobachters, erklärt mir die technischen Hintergründe: Der Chatbot funktioniert nach dem RAG-Ansatz (Retrieval-Augmented-Generation). Sobald eine Frage eingeht, wird in der internen Datenbank nach passenden Inhalten gesucht. Anschliessend wird diese Sammlung zusammen mit der Frage an eine KI weitergeleitet, die ausschliesslich mit diesem Material eine Antwort formuliert. So wird verhindert, dass fehlerhafte Informationen aus dem Internet einfliessen.

Der Beobachter arbeitet hierfür mit einem Schweizer Unternehmen zusammen, das über Microsoft Europa das Sprachmodell von OpenAI nutzt. Die Daten landen in anonymer Form bei OpenAI, das Training der KI mit diesen Daten ist aber nicht gestattet. Personenbezogene Daten gelangen nur dann in den Chatbot, wenn sie in die Anfrage eingegeben werden – weshalb man dies unterlassen sollte. Die Daten werden nach dreissig Tagen auf den Servern von Microsoft und nach sechs Monaten beim Schweizer Partner gelöscht.

Thut betont, dass im Umgang mit KI immer Vorsicht geboten sei. Der Satz, der mir aus unserem Gespräch am präsentesten bleibt, lautet: «Wenn etwas gratis ist, kann man davon ausgehen, dass man dafür mit seinen Daten bezahlt.»

Unternehmen schützen sich – Konsumenten bleiben auf sich gestellt

Dass Daten eine wertvolle Währung sind, wissen auch die grossen Unternehmen. Um meiner Frage nachzugehen, wie es bei anderen Firmen in der Schweiz aussieht, kontaktiere ich Swiss Life, AXA, CSS, Swisscom, die Zürcher Kantonalbank (ZKB) und Axpo. Im Kern bekomme ich überall eine ähnliche Antwort: Der verantwortungsvolle Umgang mit KI habe höchste Priorität, Mitarbeitende würden zur Thematik geschult werden und der Schutz der Kundendaten stehe im Zentrum.

Die Unterschiede zeigen sich vor allem darin, wie der Zugang zu KI geregelt ist. AXA sperrt beispielsweise öffentliche KI-Systeme wie ChatGPT, Google Gemini oder Perplexity komplett, um Datenabfluss zu verhindern. Mitarbeitende nutzen stattdessen eine interne Lösung namens Secure GPT. Vergleichbar handhabt es auch die ZKB mit einer eigenen KI (ZKB Chat GPT). Swiss Life setzt auf Microsoft Copilot und betont: «Bei kommerziellen Online-KI-Lösungen ist der Schutz sensibler Daten nicht gewährleistet.» Auch Swisscom und CSS lassen ihre Mitarbeitenden KI-Tools nur innerhalb einer abgesicherten Unternehmensumgebung nutzen.

Alles in allem entsteht der Eindruck, dass der Umgang mit KI in grossen Unternehmen sehr bewusst gesteuert wird. Sie verwenden KI in einem abgeschlossenen Rahmen, damit nicht ungewollt Daten abfliessen.

Doch genau hier liegt das Problem für uns Konsumentinnen und Konsumenten: Während sich Unternehmen abschotten, bleiben wir im Alltag oft auf uns allein gestellt. Martin Steiger, Rechtsanwalt für den digitalen Raum, bringt es auf den Punkt: «In der Folge bleibt es bei der berühmt-berüchtigten Eigenverantwortung mit all ihren Folgen.» Wer den AGB eines KI-Dienstes zustimmt, verwendet diese auf eigenes Risiko. Entsteht durch eine Antwort ein Schaden, sind rechtliche Schritte kaum erfolgsversprechend. KI-Anbieter sichern sich in ihren AGB ab und viele haben ihren Sitz im Ausland, was Klagen zusätzlich erschwert. Die Schweiz plant zwar eine Regulierung von KI, diese wird aber aller Voraussicht nach zurückhaltend ausfallen. Damit landen die Risiken am Ende dort, wo sie am einfachsten abgeladen werden können: bei den Konsumentinnen und Konsumenten.

Die dunkle Seite: Wenn die Stimme der Liebsten zur Waffe wird

Die fehlende Regulierung und der sorglose Umgang mit Daten im Netz öffnen auch Kriminellen Tür und Tor. Betrugsmaschen, die es schon lange gibt, werden von der Täterschaft mit Hilfe von KI optimiert. Was passiert, wenn persönliche Daten – in diesem Fall Stimmaufnahmen aus dem Internet oder von Social Media – in die falschen Hände geraten, zeigt die Geschichte von Lola.

«Mama, ich hatte einen Verkehrsunfall». Das sind die Worte, die Lola hört, als kurz vor 12:00 Uhr ihr Festnetztelefon klingelt. Die angebliche Polizei erklärt ihr, dass ihre Tochter in einen Unfall verwickelt gewesen sei. Die andere Person sei noch vor Ort verstorben. Ihre Tochter befinde sich auf der Polizeiwache und da Fluchtgefahr bestände, bräuchte man eine Kaution von über 100’000 Franken. Totaler Unsinn, das weiss Lola eigentlich. Ihre Tochter würde nie einen Unfallort verlassen. Aber es ist die schluchzende Stimme im Hintergrund, die ihr Herz zum Stocken bringt. Sie hat zwei Töchter und weiss direkt, um welche der beiden es sich handeln muss.

Was darauf folgt, ist das Textbuch einer Betrugsmasche: Druck erhöhen, Geld anfordern, Anweisungen geben, niemals auflegen. Lola holt das Geld auf der Bank ab. Erst als sie am Ort der Übergabe steht und eine Frau sie anspricht, fällt bei ihr der Groschen. Bei Lola geht am Ende noch alles gut aus. Sie bringt das Geld zurück auf die Bank und kommt mit einem ordentlichen Schock davon. Was bis heute anhält, sind Gefühle der Demütigung wie auch der Wut. Lola möchte darauf aufmerksam machen, dass die Stimme der Liebsten nun gegen einen verwendet werden kann. Betrug gepaart mit KI-Einsatz – das ist die neue Realität.

Marco Liechti, Leiter der Kriminalprävention bei der Kantonspolizei Basel-Stadt, äussert sich hingegen optimistischer. Er macht Hoffnung und betont man arbeite an KI-Erkennungssystemen, womit KI-Betrugsmaschen deutlich erschwert würden. Er ist der Meinung, dass technische Entwicklungen durchaus ihre Gefahren mit sich bringen. Aber umgekehrt gilt das Gleiche: Zu jedem Problem, gibt es auch eine passende Lösung – zumindest habe er es noch nicht anders erlebt, weshalb er zuversichtlich bleibt.

Fazit: Vom sicheren Produkt zur selbstbewussten Anwendung

Selbstbewusstsein entsteht nicht nur durch ein sicheres Produkt. Es entsteht, wenn man weiss, wie man mit dem Produkt umgehen muss. Bei KI bedeutet das: Sei dir bewusst, was du mit deiner KI teilst, sei dir bewusst, was du mit ihr besprichst. Erst dann kann KI zu einem «safe product» und wir zu «confident consumers» werden.

Vom sicheren Produkt zur selbstbewussten Anwendung – Experte Martin Steiger gibt Tipps:

• Daten-Training deaktivieren: Schalten Sie bei KI-Diensten das Training mit den eingegebenen Daten aus.
• Zurückhaltung bei persönlichen Daten: Überlegen Sie gut, welche Informationen, Bilder oder Stimmaufnahmen Sie im Netz oder mit einer KI teilen.
• Kostenpflichtige Dienste prüfen: Es kann sinnvoll sein, für KI-Dienste zu bezahlen, da diese oft bessere Datenschutzbedingungen bieten.
• Skepsis bei Anrufen: Wenn Sie am Telefon von angeblichen Verwandten in Notlagen um Geld gebeten werden, legen Sie auf und rufen Sie die Person unter der Ihnen bekannten Nummer zurück.

Es lohnt sich, Neues auszuprobieren, ohne dabei dem Hype blind zu verfallen.

Der Konsumentenbund rät: Bleiben Sie wachsam und schützen Sie Ihre Daten im digitalen Raum.

Der Welttag der Konsumentenrechte (englisch: World Consumer Rights Day) findet jährlich am 15. März statt. Er geht auf eine Rede von US-Präsident John F. Kennedy aus dem Jahr 1962 zurück, in der er grundlegende Konsumentenrechte formulierte. Seit 1983 wird er von Verbraucherorganisationen weltweit genutzt, um auf aktuelle Missstände aufmerksam zu machen und Rechte von Konsumentinnen und Konsumenten einzufordern. Das diesjährige Motto lautet «Safe Products, confident consumers». Als Schweizer Konsumentenschutzorganisation setzt sich der Schweizerische Konsumentenbund das ganze Jahr über für die Rechte und Interessen der Konsumentinnen und Konsumenten ein – von fairen Marktbedingungen über transparente Produktinformationen bis hin zu einem starken Schutz im digitalen Raum.