Google se prépare activement pour le grand lancement de Bard pour concurrencer Microsoft. Il y a quelques jours, ses responsables annonçaient déjà que sa nouvelle technologie serait implémentée dans Google Cloud et Google Workspace. En attendant la concrétisation de ses projets, la firme de Mountain View a publié sa politique des utilisations interdites pour l’IA générative. Voici les points clés à retenir.
Effectuer ou faciliter des activités dangereuses, illégales ou malveillantes
Cela englobe notamment les cas de :
- Promotion, d’incitation, de participation ou d’encouragement de :
- L’extrémisme violent ou de contenu terroriste
- Contenu lié à la violence ou à l’exploitation sexuelles d’enfants ;
- Vente de substances, de biens ou de services illicites ou des instructions pour la synthèse ou l’accès à ces substances, biens ou services ;
- Utilisateurs à commettre tout type d’infraction ;
- Abus, préjudice, ingérence ou perturbation des services (où permettre à d’autres de faire de même)
- Promotion ou facilitation de la production ou de la distribution de spams ;
- Générer du contenu pour des activités trompeuses ou frauduleuses, des escroqueries, des phishings ou des logiciels malveillants.
- Tentatives visant à passer outre ou à contourner les filtres de sécurité ou à inciter intentionnellement le modèle à agir d’une manière contraire à nos politiques
- Génération de contenus susceptibles de nuire ou de promouvoir le préjudice causé à des personnes ou à un groupe :
- Générer des contenus qui encouragent ou encouragent la haine ;
- Faciliter les méthodes de harcèlement ou de brimades pour intimider, maltraiter ou insulter autrui ;
- Générer des contenus qui facilitent, encouragent ou incitent à la violence ;
- Générer du contenu qui facilite, favorise ou encourage l’automutilation ;
- Générer des informations d’identification personnelle pour distribution ou d’autres dommages ;
- Suivre ou surveiller les personnes sans leur consentement ;
- Prise de contenu susceptible d’avoir des effets injustes ou négatifs sur les personnes, en particulier les incidences liées à des caractéristiques sensibles ou protégées
Générer et distribuer le contenu destiné à informer, à induire en erreur
Ces mesures concernent entre autres :
- La fausse représentation de la provenance du contenu généré en revendiquant le contenu a été créée par un humain, ou représente un contenu généré en tant qu’œuvres originales, à des fins de tromperie ;
- Génération de contenus imitant l’identité d’une personne (vivante ou décédée) sans divulgation explicite, afin de tromper ;
- Indulgence des allégations d’expertise ou de capacité formulées, en particulier dans des domaines sensibles (par exemple, la santé, les finances, les services publics ou les questions juridiques) ;
- Prendre des décisions automatisées dans des domaines qui affectent les droits matériels ou individuels ou le bien-être (par exemple, finance, droit, emploi, soins de santé, logement, assurance et protection sociale);
En outre, Google interdit toute génération de contenus à caractère sexuel ou de gratification sexuelle (chatbots sexuels par exemple). Notez toutefois que cette mesure de Google ne prend pas en compte des contenus à des fins scientifiques, éducatives, documentaires ou artistiques.