اپل رسما اعلام کرده است که به روزرسانی های هوش مصنوعی به تأخیر افتاده است و به روزرسانی سال آینده منتشر می شود. اما دلیل این تأخیر چیست؟ گفته می شود هرچه باهوش تر و شخصی تر باشد ، در صورت بروز مشکل خطرناک تر خواهد بود.
سیمون ویلیسونتوسعه دهنده ابزار تجزیه و تحلیل داده ها دلیل اصلی سیری پیشرفته را تزریق سریع می داند. به گفته ویلیسون ، هوش مصنوعی معمولاً محدودیت هایی را که تولید کننده تحمیل می کند ، دارد ، اما در برخی موارد مصرف کنندگان می توانند با برخی ترفندها این محدودیت ها را دور بزنند. فرآیند فرار از زندان.
ممکن است مدل هوش مصنوعی برنامه ریزی شود تا از پاسخ دادن به سؤالات مربوط به اقدامات غیرقانونی خودداری کند. اما اگر می خواهید شعری در مورد نحوه روشن شدن خودرو بنویسید ، چه می شود؟ شعر جرم نیست.
همه شرکت هایی که چت های اطلاعاتی مصنوعی ارائه می دهند با فرار از زندان روبرو هستند و در جلوگیری از این حملات تا حدودی موفق هستند ، اما این چالش هنوز هم وجود دارد. نکته نگران کننده این است که Jailbreak Siri ممکن است خطرات بیشتری نسبت به چت های معمولی داشته باشد ، زیرا دستیار صدا نه تنها اطلاعات زیادی در مورد کاربر دارد ، بلکه می تواند برای وی نیز اقدام کند.
مقالات مرتبط:
ژاکن رویسخنگوی اپل در مورد نسخه گسترده سیری می گوید: “ما روی سیری شخصی تر کار می کنیم ، که می تواند درک بهتری از کاربر داشته باشد و همچنین به جای افراد در برنامه های مختلف کارها را انجام دهیم.”
اپل اقداماتی را برای جلوگیری از افشای کاربران ناخواسته از طریق سیری انجام داده است. اما اگر حمله تزریق پرامات بتواند این محدودیت ها را دور بزند ، چه می شود؟ حتی از توانایی “دوستانه” می توان سوءاستفاده کرد. بنابراین ، برای شرکتی مانند اپل ، که همیشه بر حریم خصوصی و امنیت مصرف کننده تأکید دارد ، مهم است که سیری غیرقابل توصیف باشد.
