Manus a réalisé des avancées révolutionnaires dans les tests de référence GAIA, suscitant une réflexion sur les voies de développement de l'IA.
Manus a établi un nouveau record dans le benchmark GAIA, surpassant les modèles de langage de grande taille de sa catégorie. Cela signifie que Manus est capable d'accomplir de manière autonome des tâches complexes, comme des négociations commerciales multinationales, impliquant l'analyse des clauses contractuelles, la formulation de stratégies, la génération de propositions, et même la coordination des équipes juridiques et financières. L'avantage de Manus réside dans sa capacité dynamique de décomposition des objectifs, sa capacité de raisonnement multimodal et sa capacité d'apprentissage renforcé par la mémoire. Il peut décomposer des tâches complexes en centaines de sous-tâches exécutables, tout en traitant différents types de données, et en améliorant constamment l'efficacité des décisions et en réduisant le taux d'erreur grâce à l'apprentissage par renforcement.
La percée de Manus relance à nouveau la discussion dans l'industrie sur les voies de développement de l'IA : l'avenir se dirige-t-il vers l'intelligence artificielle générale (AGI) ou vers un système multi-agents (MAS) dominé par la collaboration ?
La philosophie de design de Manus suggère deux possibilités :
Chemin AGI : En améliorant constamment la capacité d'un système d'intelligence unique, afin de le rapprocher du niveau de décision globale de l'humain.
Chemin MAS : Utiliser Manus comme super coordinateur pour diriger des milliers d'agents spécialisés à travailler en coordination.
La discussion sur ces deux voies reflète en réalité un problème central dans le développement de l'IA : comment équilibrer efficacité et sécurité ? À mesure qu'un système intelligent unique se rapproche de l'AGI, le risque d'opacité dans son processus décisionnel augmente également ; tandis que la coopération entre plusieurs agents intelligents peut disperser les risques, elle peut également manquer des moments clés de décision en raison de délais de communication.
Les progrès de Manus amplifient également les risques inhérents au développement de l'IA. Par exemple, le problème de la confidentialité des données : dans le contexte médical, Manus doit accéder aux données génomiques sensibles des patients ; dans les négociations financières, cela peut impliquer des informations financières d'entreprise non divulguées. De plus, il existe des problèmes de biais algorithmique, comme donner des conseils de salaire injustes à certains groupes lors du processus de recrutement, ou un taux d'erreur élevé dans l'examen des contrats juridiques pour les clauses des secteurs émergents. Les vulnérabilités de sécurité sont également un problème grave, les hackers pouvant interférer avec le jugement de Manus en implantant des fréquences sonores spécifiques.
Ces problèmes mettent en évidence un fait : plus un système est intelligent, plus sa surface d'attaque potentielle est large.
Dans le domaine du Web3, la sécurité est un sujet de préoccupation majeur. La théorie du "triangle impossible" basée sur la blockchain (la difficulté d'atteindre simultanément la sécurité, la décentralisation et l'évolutivité) a donné naissance à plusieurs solutions cryptographiques :
Modèle de sécurité Zero Trust : Le cœur de ce modèle est "ne faire confiance à personne, toujours vérifier", avec une authentification et une autorisation strictes pour chaque demande d'accès.
Identité décentralisée (DID) : Il s'agit d'une nouvelle norme de reconnaissance d'identité qui permet aux entités d'obtenir une identité vérifiable et persistante sans nécessiter d'enregistrement centralisé.
Chiffrement entièrement homomorphe (FHE) : il s'agit d'une technologie de chiffrement avancée qui permet de réaliser des calculs sur des données chiffrées sans les déchiffrer, particulièrement adaptée aux scénarios de cloud computing et d'externalisation des données.
Le chiffrement homomorphe, en tant que nouvelle technologie de cryptage, a le potentiel de devenir un outil clé pour résoudre les problèmes de sécurité à l'ère de l'IA. Il permet de traiter des données en état chiffré, même les systèmes d'IA eux-mêmes ne peuvent pas déchiffrer les informations originales.
Dans les applications réelles, la FHE peut améliorer la sécurité des systèmes d'IA à plusieurs niveaux :
Niveau des données : Toutes les informations saisies par l'utilisateur (y compris les caractéristiques biométriques, la voix, etc.) sont traitées dans un état chiffré, protégeant ainsi la vie privée de l'utilisateur.
Niveau algorithmique : réaliser "l'entraînement de modèles chiffrés" via FHE, de sorte que même les développeurs ne puissent pas observer directement le processus de décision de l'IA.
Niveau de collaboration : La communication entre plusieurs agents intelligents utilise le cryptage par seuil, de sorte qu'une seule attaque sur un nœud ne conduise pas à une fuite de données globale.
Bien que les technologies de sécurité Web3 puissent sembler éloignées pour les utilisateurs ordinaires, elles sont étroitement liées aux intérêts de chacun. Dans ce monde numérique rempli de défis, il est essentiel de renforcer en permanence les mesures de sécurité pour véritablement protéger les droits des utilisateurs.
Avec les technologies d'IA qui se rapprochent de plus en plus du niveau d'intelligence humaine, nous avons besoin de systèmes de défense plus avancés. La valeur de la FHE ne réside pas seulement dans la résolution des problèmes de sécurité actuels, mais aussi dans la préparation à une ère de l'IA plus puissante à venir. Sur la route vers l'AGI, la FHE n'est plus une option, mais une condition nécessaire pour garantir le développement sûr de l'IA.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
8 J'aime
Récompense
8
6
Partager
Commentaire
0/400
SnapshotDayLaborer
· Il y a 9h
L'avenir est déjà là mais il est encore à venir.
Voir l'originalRépondre0
MetaMisery
· Il y a 18h
L'intelligence artificielle est toujours impressionnante.
Manus dépasse le Benchmark GAIA, suscitant de nouvelles réflexions sur le développement de l'IA et la sécurité du Web3.
Manus a réalisé des avancées révolutionnaires dans les tests de référence GAIA, suscitant une réflexion sur les voies de développement de l'IA.
Manus a établi un nouveau record dans le benchmark GAIA, surpassant les modèles de langage de grande taille de sa catégorie. Cela signifie que Manus est capable d'accomplir de manière autonome des tâches complexes, comme des négociations commerciales multinationales, impliquant l'analyse des clauses contractuelles, la formulation de stratégies, la génération de propositions, et même la coordination des équipes juridiques et financières. L'avantage de Manus réside dans sa capacité dynamique de décomposition des objectifs, sa capacité de raisonnement multimodal et sa capacité d'apprentissage renforcé par la mémoire. Il peut décomposer des tâches complexes en centaines de sous-tâches exécutables, tout en traitant différents types de données, et en améliorant constamment l'efficacité des décisions et en réduisant le taux d'erreur grâce à l'apprentissage par renforcement.
La percée de Manus relance à nouveau la discussion dans l'industrie sur les voies de développement de l'IA : l'avenir se dirige-t-il vers l'intelligence artificielle générale (AGI) ou vers un système multi-agents (MAS) dominé par la collaboration ?
La philosophie de design de Manus suggère deux possibilités :
Chemin AGI : En améliorant constamment la capacité d'un système d'intelligence unique, afin de le rapprocher du niveau de décision globale de l'humain.
Chemin MAS : Utiliser Manus comme super coordinateur pour diriger des milliers d'agents spécialisés à travailler en coordination.
La discussion sur ces deux voies reflète en réalité un problème central dans le développement de l'IA : comment équilibrer efficacité et sécurité ? À mesure qu'un système intelligent unique se rapproche de l'AGI, le risque d'opacité dans son processus décisionnel augmente également ; tandis que la coopération entre plusieurs agents intelligents peut disperser les risques, elle peut également manquer des moments clés de décision en raison de délais de communication.
Les progrès de Manus amplifient également les risques inhérents au développement de l'IA. Par exemple, le problème de la confidentialité des données : dans le contexte médical, Manus doit accéder aux données génomiques sensibles des patients ; dans les négociations financières, cela peut impliquer des informations financières d'entreprise non divulguées. De plus, il existe des problèmes de biais algorithmique, comme donner des conseils de salaire injustes à certains groupes lors du processus de recrutement, ou un taux d'erreur élevé dans l'examen des contrats juridiques pour les clauses des secteurs émergents. Les vulnérabilités de sécurité sont également un problème grave, les hackers pouvant interférer avec le jugement de Manus en implantant des fréquences sonores spécifiques.
Ces problèmes mettent en évidence un fait : plus un système est intelligent, plus sa surface d'attaque potentielle est large.
Dans le domaine du Web3, la sécurité est un sujet de préoccupation majeur. La théorie du "triangle impossible" basée sur la blockchain (la difficulté d'atteindre simultanément la sécurité, la décentralisation et l'évolutivité) a donné naissance à plusieurs solutions cryptographiques :
Modèle de sécurité Zero Trust : Le cœur de ce modèle est "ne faire confiance à personne, toujours vérifier", avec une authentification et une autorisation strictes pour chaque demande d'accès.
Identité décentralisée (DID) : Il s'agit d'une nouvelle norme de reconnaissance d'identité qui permet aux entités d'obtenir une identité vérifiable et persistante sans nécessiter d'enregistrement centralisé.
Chiffrement entièrement homomorphe (FHE) : il s'agit d'une technologie de chiffrement avancée qui permet de réaliser des calculs sur des données chiffrées sans les déchiffrer, particulièrement adaptée aux scénarios de cloud computing et d'externalisation des données.
Le chiffrement homomorphe, en tant que nouvelle technologie de cryptage, a le potentiel de devenir un outil clé pour résoudre les problèmes de sécurité à l'ère de l'IA. Il permet de traiter des données en état chiffré, même les systèmes d'IA eux-mêmes ne peuvent pas déchiffrer les informations originales.
Dans les applications réelles, la FHE peut améliorer la sécurité des systèmes d'IA à plusieurs niveaux :
Niveau des données : Toutes les informations saisies par l'utilisateur (y compris les caractéristiques biométriques, la voix, etc.) sont traitées dans un état chiffré, protégeant ainsi la vie privée de l'utilisateur.
Niveau algorithmique : réaliser "l'entraînement de modèles chiffrés" via FHE, de sorte que même les développeurs ne puissent pas observer directement le processus de décision de l'IA.
Niveau de collaboration : La communication entre plusieurs agents intelligents utilise le cryptage par seuil, de sorte qu'une seule attaque sur un nœud ne conduise pas à une fuite de données globale.
Bien que les technologies de sécurité Web3 puissent sembler éloignées pour les utilisateurs ordinaires, elles sont étroitement liées aux intérêts de chacun. Dans ce monde numérique rempli de défis, il est essentiel de renforcer en permanence les mesures de sécurité pour véritablement protéger les droits des utilisateurs.
Avec les technologies d'IA qui se rapprochent de plus en plus du niveau d'intelligence humaine, nous avons besoin de systèmes de défense plus avancés. La valeur de la FHE ne réside pas seulement dans la résolution des problèmes de sécurité actuels, mais aussi dans la préparation à une ère de l'IA plus puissante à venir. Sur la route vers l'AGI, la FHE n'est plus une option, mais une condition nécessaire pour garantir le développement sûr de l'IA.