PowerPC یک معماری Big-Endian است و ابتدا بیشترین مقدار را ذخیره می کند، در حالی که پردازنده Intel Petnium 2 مورد استفاده در آزمایشگاه EXO از یک سیستم Little-Endian استفاده می کند که ذخیره کوچکترین مقدار را در اولویت قرار می دهد.
برای اطمینان از اینکه مدل به درستی کار می کند، دیوید باید یک سیستم تغییر بایت را پیاده سازی می کرد و اطمینان حاصل می کرد که داده های ایجاد شده و ذخیره شده مطابق با تراز حافظه 128 بایتی مورد نیاز زیرسیستم حافظه Xbox 360 است.
چالش دیگری که دیوید با آن روبرو بود استفاده از رم یکپارچه در ایکس باکس 360 بود. اگرچه این ویژگی امروزه در کنسول ها و APU ها رایج است، اما در زمان عرضه کنسول مذکور به عنوان یک نوآوری جدید در نظر گرفته شد. بنابراین، اگرچه کنسول مذکور از 512 مگابایت رم استفاده می‌کند، آندری باید مطمئن می‌شد که مدل 60 مگابایتی او می‌تواند در حافظه‌ای که سیستم برای CPU یا گرافیک اختصاص می‌دهد، قرار بگیرد.
مقالات مرتبط:
دیوید می گوید با مدیریت دقیق حافظه و تنظیمات لازم برای سازگاری با معماری PowerPC، او توانست مدل Llama2 AI را بر روی کنسول قدیمی Xbox 360 اجرا کند و تاکید می کند که فناوری هوش مصنوعی نباید به شرکت های بزرگ با منابع مالی عظیم محدود شود.
اجرای مدل هوش مصنوعی Llama2 بر روی دستگاهی که بیش از دو دهه پیش عرضه شد قطعاً یک دستاورد شگفت انگیز است. یکی از کاربران به دیوید گفت که رم 512 مگابایتی کنسول باید برای اجرای مدل‌های SmolLM Hugging Face یا مدل 4 بیتی Qwen2.5 کافی باشد. دیوید پاسخ داد: “چالش پذیرفته شد!”
