Google TurboQuant paper refuted point by point by the authors of the prior algorithm.

Selon la surveillance de 1M AI News, le post-doctorant Jianyang Gao de l'École polytechnique fédérale de Zurich a publié une lettre ouverte accusant le papier TurboQuant de Google pour ICLR 2026 de comporter trois problèmes graves dans sa description de son travail antérieur RaBitQ. Jianyang Gao est le premier auteur de RaBitQ, qui a été publié en 2024 lors de la conférence de premier plan SIGMOD, la méthode principale étant l'application de rotations aléatoires (transformation de Johnson-Lindenstrauss) avant la quantification, et il a été strictement prouvé qu'il atteint des bornes d'erreur asymptotiquement optimales, ayant été invité à faire un rapport lors de l'atelier de la conférence de premier plan en informatique théorique FOCS.

Les trois accusations sont les suivantes :

  1. Évitement de la similarité méthodologique : La méthode principale de TurboQuant utilise également des rotations aléatoires, mais le papier classe RaBitQ comme « PQ basé sur des grilles », omettant systématiquement le lien direct entre les deux méthodes. Les réviseurs d'ICLR ont indépendamment noté que les deux méthodes utilisent des projections aléatoires et ont demandé une discussion complémentaire, mais l'équipe de TurboQuant n'a pas seulement omis d'ajouter cela, elle a également déplacé la description de RaBitQ dans l'annexe.
  2. Résultats théoriques inexacts : Le papier qualifie sans aucune preuve la garantie théorique de RaBitQ de « sous-optimale » (suboptimal), l'attribuant à une « analyse trop lâche ». La version étendue du papier RaBitQ a prouvé que sa borne d'erreur atteint la borne asymptotiquement optimale donnée par Alon-Klartag (FOCS 2017).
  3. Comparaison expérimentale inéquitable : TurboQuant teste RaBitQ en utilisant un code Python traduit par ses soins sur un CPU monocœur (sans multithreading), mais utilise un GPU NVIDIA A100 pour tester son propre algorithme, ce qui conduit à un rapport indiquant que RaBitQ est plusieurs ordres de grandeur plus lent, sans divulguer cette configuration dans le papier.

Jianyang Gao a révélé que le deuxième auteur de TurboQuant, Majid Daliri, a contacté de manière proactive l'équipe de RaBitQ en janvier 2025 pour demander de l'aide pour déboguer sa version Python traduite du code C++ basé sur RaBitQ, confirmant personnellement dans un e-mail de mai 2025 que les conditions expérimentales étaient injustes et indiquant qu'il avait informé tous les co-auteurs de la clarification théorique de l'équipe de RaBitQ. Cependant, par la suite, les problèmes susmentionnés n'ont pas été corrigés au cours de tout le processus de soumission, d'examen, d'acceptation jusqu'à la promotion à grande échelle par Google.

L'équipe de RaBitQ a publié un commentaire public sur ICLR OpenReview et a soumis une plainte officielle au président de la conférence ICLR et au comité d'éthique. Amir Zandieh, le premier auteur de TurboQuant, a répondu qu'il était prêt à corriger les deuxième et troisième problèmes, mais a refusé d'ajouter une discussion sur la similarité méthodologique, et a seulement accepté de corriger après la fin de la conférence ICLR 2026. Le chercheur tiers Jonas Matthias Kübler a également noté indépendamment sur OpenReview que le papier et le blog de Google n'étaient pas cohérents sur les références de vitesse (PyTorch vs JAX) et les bases de quantification (FP32). TurboQuant, ayant été précédemment promu à grande échelle par Google, a provoqué une chute collective des actions des puces de stockage telles que Micron et Western Digital.

Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire