بودجه‌بندی برای مدیریت هزینه‌های توکن‌های هوش مصنوعی

این مقاله از گروه BCG به بررسی هزینه‌های مربوط به توکن‌های هوش مصنوعی در شرکت‌ها می‌پردازد.

این مقاله از گروه BCG به بررسی هزینه‌های مربوط به توکن‌های هوش مصنوعی در شرکت‌ها می‌پردازد و نشان می‌دهد چگونه CFOها، CIOها و CTOها می‌توانند این هزینه‌ها را اندازه‌گیری، کنترل و هدایت کنند تا به نتایج کسب‌وکار منجر شوند. FinOps به عنوان نقطه آغاز در نظر گرفته می‌شود اما برای AI با تفاوت‌هایی اساسی مواجه است.

این مقاله، دومین بخش از مجموعه‌ای است که به بررسی هزینه‌های توکن‌های AI و نحوه مدیریت آن‌ها می‌پردازد. نویسندگان با تأکید بر رشد سریع مصرف توکن‌ها در حال گسترش از توسعه نرم‌افزار ، بازاریابی و عملیات، توضیح می‌دهند که توکن‌ها واحدهای بنیادی داده‌اند که مدل‌های هوش مصنوعی برای تولید خروجی از آن‌ها استفاده می‌کنند. تا کنون، هزینه این توکن‌ها عموماً در بودجه فناوری به صورت پنهان باقی مانده و بیشتر تحت اصول FinOps مدیریت می‌شد، اما با افزایش استفاده از AI در سطوح مختلف سازمان، قبض توکن‌ها به شکل فزاینده‌ای بالا می‌رود و FinOps از پاسخگویی به این سطح از تقاضا باز می‌ماند.

در این چارچوب، مفهوم RoAI یا بازگشت سرمایه AI معرفی می‌شود. RoAI نسبت ارزش اقتصادی به مجموع هزینه‌های انسانی و هزینه‌های توکن است و به مدیران کمک می‌کند تا فرایندهای AI را از منظر خروجی‌های اثربخش ارزیابی کنند. چارچوب‌های معرفی شده در این راهنما به مدیران ارشد کمک می‌کند تا به جای پرداختن به سطح فعالیت، بازدهی واقعی هر پروژه را با توجه به هزینه کل و زمان لازم برای ارائه خروجی‌ها بسنجند.

نقش حیاتی مدیریت شامل ایجاد سازوکارهای پایدار برای ارزیابی، تصمیم‌گیری درباره ادامه یا توقف پروژه‌ها، و اختصاص داشبوردهای پایش است تا بتوان تصمیم‌گیری‌های مبتنی بر خروجی و ارزش را انجام داد. در نهایت، نویسندگان توضیح می‌دهند که این رویکرد نه تنها به بهبود کارایی منجر می‌شود، بلکه به شفافیت، پاسخگویی و مدیریت ریسک در مصرف هوش مصنوعی کمک می‌کند و سازمان‌ها را برای استفاده پایدار از هوش مصنوعی در مقیاس بزرگ آماده می‌کند.


موضوع‌ها

فایل‌های پیوست