شکایت از OpenAI به دلیل نقض احتمالی قوانین اتحادیه اروپا در خصوص حریم خصوصی

بنیاد حقوق دیجیتال اتریش (Noyb) شکایتی را علیه OpenAI تنظیم کرده و مدعی شده است که چت‌بات این شرکت یعنی ChatGPT، اطلاعات نادرستی را ارائه می‌دهد و به طور بالقوه، قوانین حریم خصوصی اتحادیه اروپا را نقض می‌کند.

OpenAI، توسعه‌دهنده‌ی برجسته‌ی هوش مصنوعی، در مرکز یک شکایت جدید در زمینه‌ی حریم خصوصی قرار گرفته است. این شکایت توسط یک گروه مدافع حقوق حریم اطلاعات در اتریش مطرح شده است.

بنیاد Noyb در تاریخ ۲۹ آوریل شکایتی را علیه این شرکت مطرح کرد. در این شکایت ادعا شده است که OpenAI اقدام به اصلاح اطلاعات نادرستی که توسط چت‌بات مبتنی بر هوش مصنوعی تولیدکننده‌ی خود، یعنی ChatGPT، ارائه می‌شود، نکرده است. این گروه می‌گوید که چنین اقداماتی (یا عدم اقدام) می‌تواند نقض قوانین حریم خصوصی در اتحادیه اروپا باشد.

طبق گفته‌ی این گروه، شاکی پرونده، یک شخصیت عمومی ناشناس، از چت‌بات OpenAI در مورد خودش اطلاعات خواسته است، اما چت‌بات به طور مداوم اطلاعات نادرستی را در اختیار او قرار داده است.

OpenAI ظاهرا درخواست این شخصیت عمومی برای اصلاح یا حذف داده‌ها را رد کرده و گفته است که چنین کاری امکان‌پذیر نیست. OpenAI همچنین از افشای اطلاعات در مورد داده‌های آموزشی خود و منبع آن‌ها خودداری کرده است.

مارتین دِگراف، وکیل متخصص در حفاظت از داده در Noyb، در بیانیه‌ای در این خصوص اظهار داشت: «اگر سیستمی نتواند نتایج دقیق و شفافی تولید کند، نمی‌توان از آن برای تولید داده در مورد افراد استفاده کرد. این فناوری باید مطابق با الزامات قانونی عمل کند، نه برعکس.»

بنیاد Noyb شکایت خود را به مقامات اتریشی مسئول حفاظت از داده‌ها ارائه کرده است و از آن‌ها درخواست کرده است تا پردازش داده‌های OpenAI و چگونگی تضمین صحت داده‌های شخصی پردازش‌شده توسط مدل‌های زبان بزرگ این شرکت را مورد بررسی قرار دهند.

دگراف گفت: «کاملاً واضح است که در حال حاضر شرکت‌ها قادر نیستند چت‌بات‌هایی مانند ChatGPT را در هنگام پردازش داده‌های مربوط به افراد، با قوانین اتحادیه اروپا مطابقت دهند.»

بنیاد Noyb که همچنین با عنوان مرکز اروپایی حقوق دیجیتال شناخته می‌شود، در وین، اتریش فعالیت می‌کند و هدف آن راه‌اندازی «پرونده‌های استراتژیک در دادگاه و ابتکارات رسانه‌ای» است که از قوانین مقررات عمومی حفاظت از داده‌های اتحادیه اروپا پشتیبانی می‌کند.

این اولین بار نیست که چت‌بات‌ها در اروپا مورد انتقاد فعالان یا محققان قرار می‌گیرند.

در دسامبر ۲۰۲۳، مطالعه‌ای از دو سازمان غیرانتفاعی اروپایی نشان داد که چت‌بات هوش مصنوعی مایکروسافت با نام Bing (که با نام جدید Copilot شناخته می‌شود)، اطلاعات گمراه‌کننده یا نادرستی در مورد انتخابات محلی در انتخابات سیاسی آلمان و سوئیس ارائه کرده است.

این چت‌بات در حالی که منابع خود را اشتباه نقل می‌کرد، پاسخ‌های نادرستی در مورد اطلاعات نامزدها، نظرسنجی‌ها، رسوایی‌ها و رأی‌گیری ارائه می‌داد.

مورد دیگری که البته به‌طور خاص در اتحادیه اروپا نبود، با چت‌بات هوش مصنوعی جمینی Gemini گوگل مشاهده شد که در ابزار تولید تصویر خود، تصاویر «بیدار» و نادرستی را ارائه می‌کرد. گوگل بابت این حادثه عذرخواهی کرد و اعلام کرد که مدل خود را به‌روزرسانی خواهد کرد.