وفقًا لبارون، تعيد الشركات تقييم استثماراتها في الذكاء الاصطناعي بعد مواجهتها تجاوزات غير متوقعة في تكاليف الرموز المميزة (Tokens) خلال عام 2024، حيث أصبحت شفافية التسعير والتحكم في الميزانية من التحديات الرئيسية في وول ستريت.
نماذج الاستدلال ووكلاء الذكاء الاصطناعي هما المحركان الرئيسيان للتكاليف. تؤدي نماذج الاستدلال حسابات داخلية طويلة قبل إنتاج المخرجات، مما يستهلك رموزًا مميزة (Tokens) أكثر بكثير من النص النهائي المُنتَج. وكلاء البرمجة بالذكاء الاصطناعي أكثر تكلفة، حيث تتطلب ما يصل إلى 1000 ضعف الرموز المميزة التي يحتاجها المبرمجون البشريون لإنجاز المهام المكافئة. تنفذ العديد من الشركات الآن لوحات مراقبة لمراقبة استخدام الموظفين للذكاء الاصطناعي، وتتحول نحو نماذج أكثر فعالية من حيث التكلفة، بما في ذلك البدائل منخفضة التكلفة من الصين أو الانتظار لتخفيضات الأسعار من المزودين الرئيسيين. مما يزيد من التعقيد، أن مزودي النماذج المختلفين يحسبون الرموز المميزة (Tokens) بشكل مختلف—طريقة حساب أنثروبيك (Anthropic) تظهر استخدامًا أعلى بنسبة 30-40% من المنافسين—مما يجعل من الصعب على المحللين تتبع اتجاهات تبني الذكاء الاصطناعي.