یک سازمان معتبر غیرانتفاعی در زمینه ایمنی کودکان، در ارزیابی جدید خود از هوش مصنوعی گوگل جمینی، این پلتفرم را برای استفاده کودکان و نوجوانان “پرخطر” ارزیابی کرد. این ارزیابی که توسط Common Sense Media انجام شده، نگرانیهایی را در مورد ایمنی و مناسب بودن محتوای تولید شده توسط جمینی برای این گروه سنی ابراز داشته است.
به گزارش رسا نشر – بر اساس این ارزیابی، Common Sense Media دریافته است که جمینی به صراحت به کودکان اعلام میکند که یک رایانه است و نه یک دوست، اما در عین حال، در چندین جنبه دیگر نیاز به بهبود دارد. این سازمان خاطرنشان کرد که نسخههای “زیر ۱۳ سال” و “تجربه نوجوانی” جمینی، در واقع نسخههای بزرگسال این پلتفرم هستند که تنها برخی ویژگیهای ایمنی اضافی به آنها اضافه شده است. به عقیده این سازمان، محصولات هوش مصنوعی برای کودکان باید از ابتدا با در نظر گرفتن ایمنی آنها طراحی شوند.
یکی از مهمترین نگرانیهای مطرح شده در این ارزیابی، توانایی جمینی در ارائه محتوای “نامناسب و ناامن” به کودکان است، از جمله اطلاعاتی در مورد مسائل جنسی، مواد مخدر، الکل و توصیههای ناامن در مورد سلامت روان. این موضوع میتواند برای والدین بسیار نگرانکننده باشد، به ویژه با توجه به گزارشهایی مبنی بر نقش هوش مصنوعی در برخی خودکشیهای نوجوانان در ماههای اخیر.
در این راستا، پروندههایی نیز علیه شرکتهای سازنده هوش مصنوعی مانند OpenAI و Character.AI به دلیل نقش احتمالی آنها در خودکشی کاربران نوجوان تشکیل شده است. این موضوع، اهمیت ایمنی و مسئولیتپذیری شرکتهای فناوری در قبال محتوای تولید شده توسط هوش مصنوعی را دوچندان میکند.
از سوی دیگر، اخبار حاکی از آن است که شرکت اپل نیز قصد دارد از جمینی به عنوان مدل زبانی اصلی خود در Siri مجهز به هوش مصنوعی استفاده کند. این امر میتواند نوجوانان بیشتری را در معرض خطرات احتمالی قرار دهد، مگر اینکه اپل اقدامات ایمنی لازم را اتخاذ کند.
در نتیجه این ارزیابی، Common Sense Media محصولات جمینی را برای کودکان و نوجوانان “پرخطر” ارزیابی کرد و اعلام نمود که این پلتفرم نیازهای متفاوتی نسبت به کاربران بزرگسال دارد و باید با در نظر گرفتن مراحل رشد و نیازهای کودکان طراحی شود.
رابی تورنی، مدیر ارشد برنامههای هوش مصنوعی Common Sense Media، در این باره گفت: «جمینی برخی از اصول اولیه را درست انجام میدهد، اما در جزئیات دچار مشکل میشود. یک پلتفرم هوش مصنوعی برای کودکان باید آنها را در هر جایی که هستند، برآورده کند، نه اینکه رویکردی یکسان برای همه کودکان در مراحل مختلف رشد داشته باشد.»
گوگل در واکنش به این ارزیابی، ضمن تاکید بر بهبود مستمر ویژگیهای ایمنی خود، با این ارزیابی مخالفت کرد. این شرکت اعلام کرد که سیاستها و اقدامات حفاظتی خاصی برای کاربران زیر ۱۸ سال در نظر گرفته است و برای بهبود این اقدامات با متخصصان خارجی همکاری میکند. گوگل همچنین اذعان کرد که برخی از پاسخهای جمینی آنطور که در نظر گرفته شده بود، عمل نمیکنند و در حال اضافه کردن اقدامات حفاظتی بیشتر برای رفع این نگرانیها است.
Common Sense Media پیش از این نیز ارزیابیهایی را از سایر سرویسهای هوش مصنوعی انجام داده است. بر اساس این ارزیابیها، Meta AI و Character.AI “غیرقابل قبول” (به دلیل ریسک بسیار بالا) ارزیابی شدهاند، در حالی که Perplexity ریسک بالا، ChatGPT ریسک “متوسط” و Claude (که برای کاربران ۱۸ سال به بالا طراحی شده) ریسک کمی دارد.
ارزیابی جدید نشان میدهد که گوگل جمینی هنوز به طور کامل برای استفاده کودکان و نوجوانان ایمن نیست. این ارزیابی، هشداری برای گوگل و سایر شرکتهای فناوری است تا با طراحی محصولات هوش مصنوعی که نیازها و مراحل رشد کودکان را در نظر میگیرند، ایمنی این گروه سنی را تضمین کنند. این موضوع، نیازمند توجه جدی به محتوای تولید شده، اقدامات حفاظتی و مسئولیتپذیری شرکتهای فناوری است.