این ربات مچ افراد متقلب رو میگیره | دردسر جدید هوش مصنوعی برای دانشجوها

هوش مصنوعی این روز ها در بسیاری از کار ها پیشرو است و دخالت دارد و مخصوصا این روزها دانشجویان و دانش آموزان زیادی از این تکنولوژی استفاده میکنند.اما به تازگی شرکت اوپن‌ای‌آی خالق ربات گفتگوگر هوش مصنوعی اعلام کرده است در حال برنامه ریزی و ساخت ربات جدیدی است برای جلوگیری از تقلب دانش آموزان و دانشجویان.

شرکت اوپن‌ای‌آی(OpenAI) که خالق ربات گفتگوگر هوش مصنوعی ChatGPT است، اعلام کرده است که به دنبال نشانه‌گذاری(واترمارک) متون تولیدی این ربات است تا دست دانش آموزان و دانشجویانی را که از آن برای تقلب استفاده می‌کنند، رو کند.

شرکت اوپن‌ای‌آی در حال آماده سازی ابزار جدیدی است که تاکنون در انتشار آن مردد بوده است، این شرکت در حال کار بر روی ابزاری است که می‌تواند مقالات نوشته شده توسط ChatGPT را با درجه بالایی از دقت تشخیص دهد.

اوپن‌ای‌آی اطلاعات کمی درباره تحقیقات خود در زمینه واترمارک متون به اشتراک گذاشته توسط ChatGPT و اینکه چرا این کار را انجام می‌دهد، منتشر کرده است.

(ویدیو) تهران در سال 1353 از نگاه هوش مصنوعی!

این شرکت گفت که واترمارک کردن یکی از راه‌حل‌های متعدد، از جمله طبقه‌بندی‌کننده‌ها و ابرداده‌ها است که به عنوان بخشی از «تحقیقات گسترده در زمینه منشأ متن» مورد بررسی قرار گرفته است.

طبق گفته اوپن‌ای‌آی، این ابزار در برخی موقعیت‌ها «بسیار دقیق بوده است»، اما در صورت مواجهه با شکل‌های خاصی از دستکاری، مانند استفاده از سیستم‌های ترجمه، بازنویسی با مدل مولد دیگر، یا درخواست از مدل برای درج یک الگوی خاص به خوبی عمل نمی‌کند.

اوپن‌ای‌آی می‌گوید واترمارک کردن متن می‌تواند به شکل نامناسبی بر برخی گروه‌ها تأثیر بگذارد. به عنوان مثال می‌تواند استفاده از هوش مصنوعی را به عنوان یک ابزار نوشتاری مفید برای انگلیسی‌زبان‌های غیر بومی دشوار کند.

در حال حاضر اوپن‌ای‌آی در حال سنجیدن این خطرات است. ضمن اینکه این شرکت انتشار ابزارهای احراز هویت برای محتوای سمعی و بصری را در اولویت قرار داده است.

سخنگوی اوپن‌ای‌آی در بیانیه‌ای گفت که این شرکت به دلیل پیچیدگی‌های موجود و تأثیر احتمالی آن بر اکوسیستم گسترده‌تر فراتر از اوپن‌ای‌آی، «رویکردی سنجیده» را برای نشانه‌گذاری متون اتخاذ می‌کند.