Mit Gemini geplante Bergtour endet in aufwendiger Rettungsaktion

Drei junge Männer nutzten den Google-Chatbot Gemini zur Planung einer Bergtour am Mount Shasta in Kalifornien. Aus dem geplanten Tagesausflug wurde eine mehrtägige Tortur mit aufwendiger Rettungsaktion.

Die Gruppe brach laut einem von t3n wiedergegebenen Beitrag des Sheriff-Büros von Siskiyou County am Sonntag um 3 Uhr morgens auf. Für den Aufstieg waren ursprünglich acht Stunden vorgesehen. Üblicherweise wird zur Umkehr geraten, wenn der Gipfel nicht bis zum Mittag erreicht ist. Die Männer kletterten dennoch weiter und erreichten ihr Ziel erst um 19 Uhr.

Verletzung beim Abstieg im Dunkeln

Beim anschließenden Abstieg in der Dunkelheit verletzte sich einer der Männer. Zwei Versuche, die Gruppe mit einem Hubschrauber zu retten, blieben erfolglos. Rettungskräfte konnten die drei Bergsteiger schließlich am Montag sicher evakuieren.

Gegenüber einem Sheriff-Beamten erklärten die Männer, sie hätten sich bei Angaben zur Strecke und zur benötigten Ausrüstung stark auf Gemini verlassen. Nach Darstellung des Sheriff-Büros hatte der KI-Assistent ihnen deutlich weniger Wasser und Proviant empfohlen, als die Gruppe benötigte.

Google prüft die Empfehlungen

Google teilte gegenüber Cnet laut dem Bericht von t3n mit, dass das Team für Vertrauen und Sicherheit die von Gemini erzeugten Kletterempfehlungen untersuchen wolle. Dem Unternehmen sei es nicht gelungen, die betreffenden Antworten zu reproduzieren. Ein Sprecher empfahl, die von Gemini angegebenen Quellen im Zweifelsfall zu überprüfen.

KI-Antworten sind keine verlässlichen Faktenquellen

Generative KI, also Programme, die eigenständig Texte und Antworten erzeugen, berechnet ihre Ausgaben anhand gelernter Sprachmuster. Solche Systeme können Inhalte gut formulieren und strukturieren, liefern aber nicht automatisch verlässliche Tatsachen. Besonders bei Reiseplanungen sowie bei wichtigen Zahlen und sicherheitsrelevanten Angaben sollten Nutzer die Ergebnisse daher anhand belastbarer Quellen prüfen.

In Deutschland hatten laut einer Umfrage des TÜV-Verbands im vergangenen Jahr 65 Prozent der Bürger generative KI bereits ausprobiert oder aktiv genutzt. Unter den 16- bis 29-Jährigen verwendeten mehr als neun von zehn solche Systeme regelmäßig. 72 Prozent der Befragten nutzten KI-Assistenten zur Informationssuche, etwa für Produktvergleiche, Gesundheitsfragen, die Einordnung aktueller Nachrichten oder Reiseplanungen.