Il est prétendu que le stagiaire a saboté le projet ByteDance AI, ce qui a entraîné son renvoi.

La société ByteDance, fabricante de l’application TikTok, a récemment été victime d’une violation de sécurité impliquant un stagiaire présumé avoir saboté la formation sur les modèles d’intelligence artificielle. Cet incident, signalé sur WeChat, a soulevé des inquiétudes concernant les protocoles de sécurité de l’entreprise au sein du département d’intelligence artificielle.

En réponse, ByteDance a clarifié que bien que le stagiaire ait perturbé les efforts de marketing de l’intelligence artificielle, aucune opération ou activité en ligne n’a été affectée. Selon l’entreprise, les rumeurs selon lesquelles plus de 8000 cartes GPU auraient été touchées et que la violation aurait entraîné des pertes de plusieurs millions de dollars sont disproportionnées.

Le véritable problème ici dépasse le simple stagiaire malveillant, mettant en lumière la nécessité de mesures de sécurité plus strictes dans les entreprises technologiques, en particulier lorsque les stagiaires se voient confier des responsabilités clés. Même de simples erreurs dans des environnements à haute pression peuvent avoir des conséquences graves.

Lors de l’enquête, ByteDance a découvert que le stagiaire, un doctorant, faisait partie de l’équipe de technologie marketing et non du laboratoire d’intelligence artificielle. Cette personne a été licenciée en août.

Selon les médias locaux de Jiemian, le stagiaire était devenu frustré en raison de l’allocation des ressources et a pris sa revanche en exploitant une faille de sécurité sur la plateforme de développement d’intelligence artificielle Hugging Face. Cela a perturbé la formation des modèles, bien que le modèle commercial Doubao de ByteDance n’ait pas été affecté.

Malgré la perturbation, l’équipe d’apprentissage automatique de ByteDance a eu du mal à identifier la cause initialement. Heureusement, l’attaque n’a affecté que les modèles internes, limitant les dommages.

Le marché chinois de l’intelligence artificielle, estimé à 250 milliards de dollars d’ici 2023, est en pleine croissance, avec des leaders de l’industrie tels que Baidu AI Cloud, SenseRobot et Zhipu AI menant l’innovation. Cependant, de tels incidents représentent un risque important pour la commercialisation de la technologie IA, car la précision et la fiabilité des modèles sont directement liées au succès des entreprises.

Cette situation soulève également des questions sur la gestion des stagiaires dans les entreprises technologiques. Les stagiaires jouent souvent des rôles cruciaux dans des environnements rapides, mais sans une supervision adéquate et des protocoles de sécurité, leurs rôles peuvent représenter des risques. Les entreprises doivent s’assurer que les stagiaires reçoivent la formation et la supervision nécessaires pour éviter des actions involontaires ou malveillantes pouvant perturber les opérations.

Impacts sur la commercialisation de l’intelligence artificielle

La violation de sécurité met en lumière les risques potentiels de la commercialisation de l’intelligence artificielle. Tout dysfonctionnement dans la formation des modèles d’IA, comme celui-ci, peut entraîner des retards dans la sortie des produits, une perte de confiance des clients, voire des pertes financières. Pour une entreprise comme ByteDance, où l’IA est essentielle, de tels incidents peuvent être particulièrement dommageables.

Cela souligne l’importance du développement d’une intelligence artificielle éthique et de la responsabilité des entreprises. Les entreprises ne devraient pas seulement développer des technologies d’IA avancées, mais aussi garantir leur sécurité et leur gestion responsable. La transparence et la responsabilité sont essentielles pour maintenir la confiance à une époque où l’IA joue un rôle crucial dans les activités commerciales.

(Crédit photo : Jonathan Kimber)

Voir aussi : Microsoft acquiert un gros client en intelligence artificielle alors que TikTok dépense 20 millions de dollars par mois