به دلیل منابع محاسباتی قابل توجهی که برای آموزش و نگهداری مدل‌های یادگیری ماشینی در مقیاس بزرگ مانند ChatGPT لازم است، اجرای این مدل‌ها روی سرورها می‌تواند پرهزینه باشد. علاوه بر این، این هزینه ممکن است بسته به عواملی مانند بزرگی و پیچیدگی مدل، میزان داده‌های پردازش شده و سطح تقاضای کاربر متفاوت باشد. با این وجود، سازمان‌هایی که از مدل‌های زبانی هوش مصنوعی استفاده می‌کنند ممکن است ارزش آنها را نسبت به هزینه‌های اجرای آنها بر روی سرورها بیشتر در نظر بگیرند. ChatGPT در حال حاضر محبوب‌ترین مدل زبانی در جهان است و طبق گزارش‌های اخیر، هزینه اجرا و مدیریت آن بسیار سنگین است.
ChatGPT هوش مصنوعی پر سر و صدا
اجرا و مدیریت ChatGPT روزانه ۷۰۰ هزار دلار هزینه دارد، هزینه‌های GPT-4 ممکن است بیشتر هم باشد.
مدل زبان OpenAI، یعنی ChatGPT، که خدمات پردازش زبان طبیعی (NLP) را ارائه می‌کند، به قدرت محاسباتی قابل توجهی نیاز دارد و می‌تواند تا ۷۰۰ هزار دلار هزینه داشته باشد. این هزینه بالا عمدتاً از سرورهای گران قیمتی ناشی می‌شود که برای ارائه بازخورد براساس ورودی کاربر، از جمله نوشتن نامه‌ها، ایجاد طرح‌های آموزشی و بهینه‌سازی داده‌های شخصی مورد نیاز است. علاوه بر این، در حالی که دیلان پتل، تحلیلگر ارشد SemiAnalysis، هزینه اجرای مدل GPT-3 را تخمین زده است، به گفته او هزینه‌های عملیاتی ChatGPT اکنون پس از اتخاذ آخرین مدل زبانی یعنی GPT-4 می‌تواند حتی سنگین‌تر هم باشد.
هزینه‌های استدلال یک هوش مصنوعی بسیار بیشتر از هزینه آموزش آن است. شرکت‌هایی که از مدل‌های زبانی OpenAI استفاده می‌کنند در چند سال گذشته هزینه‌های زیادی را پرداخت کرده‌اند و هزینه اجرای مدل هوش مصنوعی و خرید سرورهای ابری آمازون AWS برای بازی AI dungeon از استارتاپ Latitude در سال ۲۰۲۱ تا ۲۰۰ هزار دلار در ماه هزینه دارد. مایکروسافت در حال توسعه یک تراشه هوش مصنوعی با نام Athena برای کاهش هزینه‌های اجرای مدل‌های هوش مصنوعی مولد است، اما این تراشه تنها برای استفاده داخلی توسط مایکروسافت و OpenAI در اوایل سال آینده منتشر خواهد شد.
