OpenAI limite les fonctionnalités relatives aux images de GPT-4 !

L’entreprise spécialisée dans l’intelligence artificielle, OpenAI, a suscité beaucoup d’enthousiasme lorsqu’elle a annoncé son modèle GPT-4. Celui-ci présente des capacités multimodales avancées, qui incluent l’analyse et l’interprétation d’images, pas que le traitement de texte. Cependant, une récente enquête du New York Times révèle que la société limite l’accès public à ces fonctionnalités par crainte de problèmes de confidentialité. Cette décision est motivée par le potentiel de reconnaissance de personnes spécifiques par GPT-4. Ce qui soulève des préoccupations majeures.

OpenAI_GPT-4_Vision
IA

GPT-4 et ses capacités d’analyse d’images

GPT-4 est une avancée significative dans le domaine de l’intelligence artificielle. Non seulement il peut traiter et générer du texte, mais il peut également analyser et interpréter des images. Cela ouvre de nouvelles possibilités d’interaction entre les utilisateurs et le modèle d’IA. Cependant, cette fonctionnalité est restreinte par OpenAI en raison de problèmes de confidentialité.

Avec Be My Eyes pour aider les personnes malvoyantes

OpenAI a travaillé en collaboration avec une start-up appelée Be My Eyes pour développer une application visant à aider les personnes aveugles, améliorant donc les performances de traitement d’images considérablement. Cette application décrit les images aux utilisateurs aveugles, leur permettant ainsi de mieux appréhender leur environnement et à acquérir plus d’indépendance. Cependant, l’application a récemment cessé de fournir des informations faciales aux utilisateurs pour des raisons de confidentialité.

Préoccupations sur la confidentialité et les risques d’interprétation erronée des caractéristiques faciales

L’une des principales préoccupations d’OpenAI concerne la reconnaissance potentielle de personnes spécifiques par GPT-4. La société est consciente des lois sur la confidentialité. Plus précisément en Europe et dans l’état de l’Illinois aux États-Unis, qui exigent un consentement explicite pour l’utilisation d’informations biométriques. Pour éviter tout problème juridique, OpenAI a décidé de limiter la capacité de reconnaissance faciale de GPT-4.

En plus des préoccupations liées à la confidentialité, OpenAI est également conscient des risques d’interprétation erronée des caractéristiques faciales par Be My Eyes. A titre illustratif, il pourrait arriver que l’application puisse mal identifier le sexe ou l’état émotionnel d’une personne. Ce qui entraînerait des résultats inappropriés ou préjudiciables. OpenAI souhaite donc régler ces problèmes avant de rendre les capacités d’analyse d’images de GPT-4 largement accessibles.

Les limitations actuelles et les prochaines étapes

Malgré les précautions prises par OpenAI, il y a eu des cas où GPT-4 a fourni des informations inexactes ou a fait des identifications erronées. Cela souligne la complexité de développer un outil utile et précis pour les utilisateurs malvoyants. OpenAI collabore avec des chercheurs et des experts pour résoudre ces problèmes et améliorer la précision des fonctionnalités d’analyse d’images de GPT-4.

Des concurrents aux trousses

De son côté, Microsoft, un des investisseurs majeurs d’OpenAI teste actuellement une sortie limitée des outils d’analyse visuelle dans son Chatbot Bing alimenté par une IA basée sur GPT-4. Récemment, Bing Chat a été aperçu sur Twitter, le bot résolvait des CAPTCHA destinés à filtrer les bots, ce va peut-être retarder une sortie plus large des fonctionnalités de traitement d’images.

Google a également introduit des fonctions d’analyse d’images dans Bard. Elles permettent aux utilisateurs d’uploader des images pour traitement ou reconnaissance par le chatbot. Nos tests ont montré que le bot pouvait résoudre des CAPTCHA basés sur des mots, même si la fiabilité n’est pas absolue. Des services comme Roblox ont commencé à utiliser des CAPTCHA particulièrement complexes pour garder de l’avance sur les avancées technologiques dans le domaine.

Bien que de pareilles fonctionnalités en vision assistée par IA verront le jour probablement, les compagnies ont encore du pain sur la planche pour éviter les complications potentielles avant de les rendre disponibles au grand public.

Source : ArsTechnica

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.