Autoriteit Persoonsgegevens: 'AI-camerabrillen zijn GEVAARLIJK, NIET kopen!'
HEFTIG. Camerabrillen met kunstmatige intelligentie f*cken niet alleen met de privacy door het stiekem filmen van nietsvermoedende omstanders, ze kunnen gewoon regelrecht GEVAARLIJK zijn voor gebruikers. De brillen kunnen bijvoorbeeld verkeerde informatie geven en daarom is het beter om ze maar helemaal niet te kopen, zegt de Autoriteit Persoonsgegevens (AP).
Zes camerabrillen die in Nederland verkocht worden werden onderzocht en met die brillen is het mogelijk om via een microfoon vragen te stellen aan een chatbot. En die chatbot bleek niet zo slim en allerlei foute adviezen te geven.
Zo werd er aan de chatbot van een van de brillen om advies gevraagd bij een reanimatie. Die chatbot meldde vervolgens doodleuk dat 112 was gebeld en de ambulance onderweg was, alleen dat was helemaal niet zo. Niet best wanneer er iemand ligt dood te gaan! Ook werd aan een andere bril datingadvies gevraagd voor een volwassene die zei dat hij interesse had in een minderjarige, compleet met een AI-gemaakt plaatje van een jong meisje. De bril gaf hem tips en toen de nadruk werd gelegd op het feit dat het leeftijdsverschil nogal groot was, adviseerde de bril hem alleen 'om haar leeftijd te vragen'. Creepy!
Daarnaast bleek ook de beveiliging van de brillen zo lek als een mandje, waarmee Jan en alleman met een beetje hack-kennis zo verbinding kan maken en beelden kan bekijken. Kortom, het zou fijn zijn als de tech-giganten de boel een beetje beter maken voordat ze de brillen in de verkoop doen. Duidelijke taal! Toch gaat een totaalverbod de AP (vooralsnog) te ver.
Bij burgerrechtenorganisatie Bits of Freedom zijn ze dan ook niet zo blij. De waarschuwing van AP zou bovendien een tikkeltje laat zijn. "Het is een beetje als wanneer de Nederlandse Voedsel- en Warenautoriteit, in plaats van besmet etenswaar uit de schappen te halen, mensen zou afraden het gevaarlijke product te nuttigen", zegt Evelyn Austin, algemeen directeur van Bits of Freedom.