Be My Eyes wil kunstmatige intelligentie inclusiever maken (met jouw data)
Geplaatst op: 7 augustus 2024
Be My Eyes, een populaire app onder mensen met een oogaandoening, gebruikt Artificial Intelligence (AI, kunstmatige intelligentie) in haar apps. Nu wil het bedrijf ook zelf AI-modellen gaan trainen, door gegevens van gebruikers te delen met externe partijen. Zo maakte de (zelf blinde) CEO Hans Jørgen Wiberg in een recente e-mail aan alle gebruikers bekend.
Twee veranderingen
In de mail kondigt de CEO twee veranderingen aan:
- Be My Eyes is van plan om videogegevens te delen met andere organisaties om AI-modellen te trainen zodat ze inclusiever en representatiever zijn voor mensen die blind en slechtziend zijn.
- Be My Eyes wijzigt haar gegevens- en privacybeleid – en voegt daar meer restricties aan toe – om ervoor te zorgen dat je nog meer controle hebt over of en hoe jouw gegevens worden gebruikt.
Waarom is dit nodig?
Volgens het bedrijf zijn deze stappen nodig om ervoor te zorgen dat de gebruikers, en blinden en slechtzienden in het algemeen, niet buitengesloten worden van de innovatieve kracht van AI. En dat AI-modellen worden getraind met gegevens die de echte en relevante ervaring van deze groep weerspiegelt.
Geen eerlijke kans
Volgens Be My Eyes gaan de ontwikkelingen in AI zo snel dat er geen eerlijke kans is geweest om datamodellen te trainen met deze representatieve belevingswereld. Zelf geeft Be My Eyes aan bevooroordeelde en soms zelfs aanstootgevende antwoorden van AI tegen te komen. Dit hoopt het bedrijf met deze wijzigingen aan te pakken.
Niet verplicht data te delen
Als gebruiker kun je ervoor kiezen om je (video)data niet te delen, zonder dat dit invloed heeft op het gebruik van Be My Eyes. Raadpleeg hiervoor de instellingen in de app.
Uitzondering voor Be My AI
Foto-/videomateriaal en AI-beeldbeschrijvingen gegeneerd binnen Be My AI worden sowieso niet gedeeld voor de training van datamodellen, omdat deze mogelijk ook bevooroordeelde interpretaties bevatten. Door deze data weer opnieuw aan AI te voeren, zouden vooroordelen alleen maar in stand blijven.
Veelgebruikte app
Be My Eyes kent vele gebruikers onder mensen die slechtziend of blind zijn. Een (onbekende) vrijwilliger, vriend, familielid of AI-bot helpt je om met de camera van je smartphone je omgeving te interpreteren. Bijvoorbeeld wat er op een pakketje staat geschreven of welke personen er op een foto te zien zijn. De app is te downloaden in de App Store van Apple en via de Google Playstore.