Un adolescent, qui suivait les instructions d’une IA sans réfléchir (Meat Proxy IA) s’est retrouvé bloqué sur la montagne « Widowmaker »
infohightech ·
Des randonneurs se retrouvent régulièrement bloqués après avoir consulté des chatbots d’IA pour obtenir des conseils potentiellement vitaux — ou mortels.
Le mois dernier encore, trois amateurs de plein air ont dû être secourus par les gardes forestiers dans la chaîne des Cascades en Californie après que l’IA de Google leur a conseillé d’ «emporter beaucoup moins de nourriture et d’eau que nécessaire pour leur groupe », transformant leur ascension prévue de huit heures en une « épreuve de plusieurs jours ».
Pourtant, malgré les supplications des autorités auprès du public pour qu’il ne suive pas les conseils de ces hallucinations de grands modèles de langage, leurs avertissements restent lettre morte.
Plus récemment, un adolescent de 16 ans a dû être secouru au pied d’une imposante et escarpée formation rocheuse, ironiquement surnommée « Widow Maker » ou « La Faiseuse de veuves », sur le mont Crown en Colombie-Britannique au Canada. Comme le rapporte CTV News , le jeune homme avait pris une télécabine pour atteindre le sommet du mont Grouse, à plus de 1 200 mètres d’altitude, avant d’être égaré par le chatbot Claude AI d’Anthropic lors de sa descente.
Le garçon était en grand danger, mais heureusement, il a eu au moins une idée lumineuse au cours de son aventure : appeler à l’aide après s’être retrouvé coincé.
« Une chute aurait pu entraîner des blessures importantes, voire la mort », a déclaré Paul Markey, responsable des recherches chez North Shore Rescue, à CTV News .
Deux sauveteurs ont dû descendre en rappel, l’hélicoptère ne pouvant s’approcher davantage de la paroi verticale abrupte du Widowmaker.
« Une fois au sol, l’équipe a établi un point d’ancrage et un membre a été assuré à la personne secourue », indique le compte rendu d’intervention de North Shore Rescue. « Ce membre a ensuite renforcé la sécurité et a pu déplacer la personne secourue jusqu’à un point d’extraction approprié. »
Markey a profité de l’occasion pour implorer une fois de plus le public de ne pas faire confiance aux chatbots d’IA comme Claude pour fournir ce type d’informations.
« Claude n’a jamais été dans cette zone précise, n’a jamais emprunté cet itinéraire et n’a jamais été en pleine nature — faites vos propres recherches et acquérez vos propres connaissances sur la région et complétez-les par une formation et des notions de navigation », a-t-il déclaré à CTV News .
https://futurism.com/artificial-intelligence/teenage-stranded-mountain-ai-instructions