Google (NASDAQ : GOOGL) dévoile de nouvelles mises à jour de sa politique pour intensifier sa lutte contre le contenu explicite généré par l'IA

Dans un communiqué, le géant de la technologie a révélé qu'il rétrograderait les résultats des deepfakes explicites dans la recherche Google afin de protéger les victimes des mauvais acteurs dans un contexte d'incidents offensants croissants.

Google (NASDAQ:GOOGL) has announced new policy updates in an effort to bolster its fight against artificial intelligence (AI)-generated content that depicts individuals in explicit contexts without their permission.

Google (NASDAQ : GOOGL) a annoncé de nouvelles mises à jour de sa politique dans le but de renforcer sa lutte contre les contenus générés par l'intelligence artificielle (IA) qui représentent des individus dans des contextes explicites sans leur autorisation.

In a statement on Monday, the tech giant said it will begin demoting explicit deepfakes in Google Search results in a bid to protect victims from bad actors, especially amid a spike in offensive incidents. According to Google, the latest tools against deepfakes enhance its existing policies, with the most drastic change being the ease of filing complaints.

Dans un communiqué publié lundi, le géant de la technologie a annoncé qu'il commencerait à rétrograder les deepfakes explicites dans les résultats de recherche Google dans le but de protéger les victimes des mauvais acteurs, en particulier dans un contexte de recrudescence des incidents offensants. Selon Google, les derniers outils contre les deepfakes améliorent ses politiques existantes, le changement le plus radical étant la facilité de dépôt de plainte.

While victims have always had the right to request takedowns of non-consensual fake content from Google Search, the latest improvements will now allow them to easily report offending websites. Google’s statement said the company will also remove duplicates of the derogatory content on the web, building on its experiments with other illicit content.

Alors que les victimes ont toujours eu le droit de demander le retrait de faux contenus non consensuels de la recherche Google, les dernières améliorations leur permettront désormais de signaler facilement les sites Web incriminés. Le communiqué de Google indique que la société supprimera également les doublons du contenu désobligeant sur le Web, en s'appuyant sur ses expériences avec d'autres contenus illicites.

"These efforts are designed to give people added peace of mind, especially if they’re concerned about similar content about them popping up in the future," the statement reads.

"Ces efforts visent à donner aux gens une plus grande tranquillité d'esprit, surtout s'ils craignent que des contenus similaires à leur sujet apparaissent à l'avenir", indique le communiqué.

The second line of defense in Google’s arsenal against deepfakes is an enhancement in the Search ranking system. Google believes its decision to build systems that rank quality information at the top of Search may be "the best protection against harmful content."

La deuxième ligne de défense de l'arsenal de Google contre les deepfakes est une amélioration du système de classement de recherche. Google estime que sa décision de créer des systèmes classant les informations de qualité en tête de la recherche pourrait constituer « la meilleure protection contre les contenus préjudiciables ».

Going forward, the search giant said it will push AI-generated NSFW (not safe for work) content lower in its rankings to stifle its distribution. For searches involving specific names, Google says it will promote high-quality, non-explicit content to drown out the exposure to AI-generated deepfakes.

À l’avenir, le géant de la recherche a déclaré qu’il pousserait le contenu NSFW (non sûr pour le travail) généré par l’IA plus bas dans son classement afin d’étouffer sa distribution. Pour les recherches impliquant des noms spécifiques, Google affirme qu’il promouvra un contenu non explicite de haute qualité afin d’étouffer l’exposition aux deepfakes générés par l’IA.

There are plans to outrightly demote websites that have a slew of reports against them for AI deepfakes, smothering their circulation and distribution from the source.

Il est prévu de rétrograder purement et simplement les sites Web qui contiennent de nombreux rapports contre eux pour des deepfakes d'IA, étouffant ainsi leur circulation et leur distribution à partir de la source.

Combined, the features are expected to reduce incidents by up to 70%, but the company notes that the fight is far from finished. For now, Google continues to grapple with distinguishing between consensual and non-consensual deepfakes, as search engines are unable to make the distinction.

Ensemble, ces fonctionnalités devraient réduire les incidents jusqu'à 70 %, mais la société note que la lutte est loin d'être terminée. Pour l’instant, Google continue de lutter pour faire la distinction entre les deepfakes consensuels et non consensuels, car les moteurs de recherche sont incapables de faire la distinction.

"These changes are major updates to our protections on Search, but there’s more work to do to address this issue, and we’ll keep developing new solutions to help people affected by this content," said Google.

"Ces changements constituent des mises à jour majeures de nos protections sur la recherche, mais il y a encore du travail à faire pour résoudre ce problème, et nous continuerons à développer de nouvelles solutions pour aider les personnes concernées par ce contenu", a déclaré Google.

In search for the final solution

À la recherche de la solution finale

Speaking to the matter, Google executives said the new initiatives are not the silver bullets to solve the issue of AI-generated explicit content, arguing that industry-wide partnerships may be the way out. Several tech giants are exploring common strategies to deal with the scourge as they walk the fine line between censoring free speech and protecting users.

A ce sujet, les dirigeants de Google ont déclaré que les nouvelles initiatives ne constituent pas la solution miracle pour résoudre le problème du contenu explicite généré par l'IA, arguant que des partenariats à l'échelle de l'industrie pourraient être la solution. Plusieurs géants de la technologie explorent des stratégies communes pour lutter contre ce fléau, tout en parcourant la frontière ténue entre la censure de la liberté d'expression et la protection des utilisateurs.

Regulators are also stepping into the fray to protect victims following the rollout of new playbooks for AI developers and users. On the other hand, experts argue that integrating AI with blockchain technology may allow search engines to confirm the authenticity of AI-generated content to protect victims.

Les régulateurs entrent également dans la mêlée pour protéger les victimes suite au déploiement de nouveaux manuels destinés aux développeurs et aux utilisateurs d’IA. D’un autre côté, les experts affirment que l’intégration de l’IA à la technologie blockchain pourrait permettre aux moteurs de recherche de confirmer l’authenticité du contenu généré par l’IA afin de protéger les victimes.

In order for artificial intelligence (AI) to work right within the law and thrive in the face of growing challenges, it needs to integrate an enterprise blockchain system that ensures data input quality and ownership—allowing it to keep data safe while also guaranteeing the immutability of data. Check out CoinGeek’s coverage on this emerging tech to learn more why Enterprise blockchain will be the backbone of AI.

Pour que l'intelligence artificielle (IA) fonctionne dans le respect de la loi et prospère face à des défis croissants, elle doit intégrer un système de blockchain d'entreprise qui garantit la qualité et la propriété de la saisie des données, lui permettant de conserver les données en sécurité tout en garantissant l'immuabilité. de données. Consultez la couverture de CoinGeek sur cette technologie émergente pour savoir pourquoi la blockchain d'entreprise sera l'épine dorsale de l'IA.

Watch: Transformative AI applications are coming

Regarder : Des applications d’IA transformatrice arrivent

New to blockchain? Check out CoinGeek’s Blockchain for Beginners section, the ultimate resource guide to learn more about blockchain technology.

Nouveau sur la blockchain ? Consultez la section Blockchain pour les débutants de CoinGeek, le guide de ressources ultime pour en savoir plus sur la technologie blockchain.