Fusion de l'IA et du Web3 : L'émergence de la finance décentralisée basée sur l'intelligence artificielle et ses défis en matière de sécurité
Récemment, un grand événement blockchain axé sur la tendance de la fusion de l'IA et du Web3 s'est tenu à Istanbul, en Turquie. Cet événement est devenu une plateforme importante pour les discussions sur la sécurité du Web3 cette année, attirant de nombreux experts de l'industrie.
Lors de deux tables rondes, plusieurs experts ont mené des discussions approfondies sur l'état actuel de l'application des technologies AI dans la Décentralisation financière et les défis de sécurité associés. Parmi eux, "finance AI décentralisée" (DeFAI) est devenu un mot-clé. Les experts ont souligné qu'avec le développement rapide des grands modèles de langage et des agents AI, un tout nouveau paradigme financier est en train de se former progressivement. Cependant, cette transformation a également engendré de nouvelles surfaces d'attaque et des risques de sécurité.
Un cadre d'une entreprise de sécurité a déclaré : "Bien que DeFAI ait un avenir prometteur, il nous oblige également à reconsidérer les mécanismes de confiance dans les systèmes décentralisés. Contrairement aux contrats intelligents basés sur une logique fixe, le processus de prise de décision des agents IA est influencé par le contexte, le temps, voire les interactions historiques. Cette imprévisibilité augmente non seulement les risques, mais crée également des opportunités pour les attaquants."
Les agents IA sont essentiellement des entités intelligentes capables de prendre des décisions autonomes et d'exécuter des actions sur la base de la logique IA, généralement autorisées à fonctionner par des utilisateurs, des protocoles ou des DAO. Le représentant le plus typique est le robot de trading IA. Actuellement, la plupart des agents IA fonctionnent sur une architecture Web2, s'appuyant sur des serveurs et des API centralisés, ce qui les rend vulnérables à des menaces telles que les attaques par injection, la manipulation des modèles ou la falsification des données. Une fois compromis, cela peut non seulement entraîner des pertes financières, mais également affecter la stabilité de l'ensemble du protocole.
Le forum a également mentionné un scénario d'attaque typique : lorsque l'agent de trading AI utilisé par les utilisateurs DeFi surveille les messages sur les réseaux sociaux comme signaux de trading, un attaquant peut publier de fausses alertes, par exemple "un certain protocole subit une attaque", ce qui peut inciter l'agent à déclencher immédiatement un déchargement d'urgence. Cette opération peut non seulement entraîner des pertes d'actifs pour les utilisateurs, mais aussi provoquer des fluctuations du marché, que l'attaquant peut ensuite exploiter par le biais de transactions anticipées.
Face à ces risques, les experts estiment généralement que la sécurité des agents IA ne doit pas être la seule responsabilité d'une partie, mais plutôt une responsabilité partagée entre les utilisateurs, les développeurs et les organismes de sécurité tiers.
Tout d'abord, les utilisateurs doivent être clairs sur l'étendue des privilèges que possède l'agent, accorder les privilèges avec prudence et prêter attention à l'examen des opérations à haut risque de l'agent IA. Ensuite, les développeurs doivent mettre en œuvre des mesures de défense dès la phase de conception, telles que : le renforcement des invites, l'isolement en bac à sable, la limitation de la vitesse et des mécanismes de logique de retour. Enfin, les entreprises de sécurité tierces doivent fournir un examen indépendant du comportement du modèle de l'agent IA, de l'infrastructure et des méthodes d'intégration sur la chaîne, et collaborer avec les développeurs et les utilisateurs pour identifier les risques et proposer des mesures d'atténuation.
Un expert en sécurité a averti : "Si nous continuons à considérer les agents IA comme une 'boîte noire', il n'est qu'une question de temps avant qu'un incident de sécurité ne se produise dans le monde réel." Pour les développeurs qui explorent la direction du DeFAI, il a suggéré : "Tout comme pour les contrats intelligents, la logique de comportement des agents IA est également réalisée par du code. Puisqu'il s'agit de code, il y a un risque d'attaque, donc une audit de sécurité professionnelle et des tests d'intrusion sont nécessaires."
En tant que l'un des événements blockchain les plus influents d'Europe, cette manifestation a attiré plus de 15 000 participants, y compris des développeurs, des promoteurs de projets, des investisseurs et des régulateurs du monde entier. Il convient de mentionner qu'avec le lancement officiel par la Commission des marchés de capitaux de Turquie de l'émission de licences pour des projets blockchain, le statut de cet événement dans l'industrie a été encore renforcé.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
9 J'aime
Récompense
9
5
Reposter
Partager
Commentaire
0/400
ForkLibertarian
· 08-11 19:29
Qui joue encore à la Finance décentralisée ? Tout le monde s'intéresse à l'IA maintenant.
Voir l'originalRépondre0
StealthMoon
· 08-11 19:29
le defi sait toujours jouer de nouvelles manières
Voir l'originalRépondre0
rekt_but_vibing
· 08-11 19:19
La toute nouvelle voie de profits est un piège, les investisseurs détaillants seront forcément pris pour des pigeons.
Voir l'originalRépondre0
BearMarketBuyer
· 08-11 19:17
Avertissement de risque, la sécurité est la priorité.
Fusion de l'IA et du Web3 : défis de sécurité et stratégies de défense sous l'essor de DeFAI
Fusion de l'IA et du Web3 : L'émergence de la finance décentralisée basée sur l'intelligence artificielle et ses défis en matière de sécurité
Récemment, un grand événement blockchain axé sur la tendance de la fusion de l'IA et du Web3 s'est tenu à Istanbul, en Turquie. Cet événement est devenu une plateforme importante pour les discussions sur la sécurité du Web3 cette année, attirant de nombreux experts de l'industrie.
Lors de deux tables rondes, plusieurs experts ont mené des discussions approfondies sur l'état actuel de l'application des technologies AI dans la Décentralisation financière et les défis de sécurité associés. Parmi eux, "finance AI décentralisée" (DeFAI) est devenu un mot-clé. Les experts ont souligné qu'avec le développement rapide des grands modèles de langage et des agents AI, un tout nouveau paradigme financier est en train de se former progressivement. Cependant, cette transformation a également engendré de nouvelles surfaces d'attaque et des risques de sécurité.
Un cadre d'une entreprise de sécurité a déclaré : "Bien que DeFAI ait un avenir prometteur, il nous oblige également à reconsidérer les mécanismes de confiance dans les systèmes décentralisés. Contrairement aux contrats intelligents basés sur une logique fixe, le processus de prise de décision des agents IA est influencé par le contexte, le temps, voire les interactions historiques. Cette imprévisibilité augmente non seulement les risques, mais crée également des opportunités pour les attaquants."
Les agents IA sont essentiellement des entités intelligentes capables de prendre des décisions autonomes et d'exécuter des actions sur la base de la logique IA, généralement autorisées à fonctionner par des utilisateurs, des protocoles ou des DAO. Le représentant le plus typique est le robot de trading IA. Actuellement, la plupart des agents IA fonctionnent sur une architecture Web2, s'appuyant sur des serveurs et des API centralisés, ce qui les rend vulnérables à des menaces telles que les attaques par injection, la manipulation des modèles ou la falsification des données. Une fois compromis, cela peut non seulement entraîner des pertes financières, mais également affecter la stabilité de l'ensemble du protocole.
Le forum a également mentionné un scénario d'attaque typique : lorsque l'agent de trading AI utilisé par les utilisateurs DeFi surveille les messages sur les réseaux sociaux comme signaux de trading, un attaquant peut publier de fausses alertes, par exemple "un certain protocole subit une attaque", ce qui peut inciter l'agent à déclencher immédiatement un déchargement d'urgence. Cette opération peut non seulement entraîner des pertes d'actifs pour les utilisateurs, mais aussi provoquer des fluctuations du marché, que l'attaquant peut ensuite exploiter par le biais de transactions anticipées.
Face à ces risques, les experts estiment généralement que la sécurité des agents IA ne doit pas être la seule responsabilité d'une partie, mais plutôt une responsabilité partagée entre les utilisateurs, les développeurs et les organismes de sécurité tiers.
Tout d'abord, les utilisateurs doivent être clairs sur l'étendue des privilèges que possède l'agent, accorder les privilèges avec prudence et prêter attention à l'examen des opérations à haut risque de l'agent IA. Ensuite, les développeurs doivent mettre en œuvre des mesures de défense dès la phase de conception, telles que : le renforcement des invites, l'isolement en bac à sable, la limitation de la vitesse et des mécanismes de logique de retour. Enfin, les entreprises de sécurité tierces doivent fournir un examen indépendant du comportement du modèle de l'agent IA, de l'infrastructure et des méthodes d'intégration sur la chaîne, et collaborer avec les développeurs et les utilisateurs pour identifier les risques et proposer des mesures d'atténuation.
Un expert en sécurité a averti : "Si nous continuons à considérer les agents IA comme une 'boîte noire', il n'est qu'une question de temps avant qu'un incident de sécurité ne se produise dans le monde réel." Pour les développeurs qui explorent la direction du DeFAI, il a suggéré : "Tout comme pour les contrats intelligents, la logique de comportement des agents IA est également réalisée par du code. Puisqu'il s'agit de code, il y a un risque d'attaque, donc une audit de sécurité professionnelle et des tests d'intrusion sont nécessaires."
En tant que l'un des événements blockchain les plus influents d'Europe, cette manifestation a attiré plus de 15 000 participants, y compris des développeurs, des promoteurs de projets, des investisseurs et des régulateurs du monde entier. Il convient de mentionner qu'avec le lancement officiel par la Commission des marchés de capitaux de Turquie de l'émission de licences pour des projets blockchain, le statut de cet événement dans l'industrie a été encore renforcé.