دغدغه‌های پدرخوانده هوش مصنوعی در مورد خطرات آن/ از کنترل داشتن روی فناوری مطمئن شوید

جفری هینتون در پشت برخی از پیشرفت‌های کلیدی در ابزار‌های تقویت هوش مصنوعی مانند چت‌جی‌پی‌تی است و به عنوان پدرخوانده این علم شناخته می‌شود اکنون نگرانی‌های خود را در مورد قدرت این علم بیان کرده است.

به گزارش فارس، جفری هینتون ۷۵ ساله با استعفا از گوگل به عنوان پدرخوانده هوش مصنوعی اعلام کرده از کاری که زندگی خود را وقف آن کرده پشیمان است، زیرا هوش مصنوعی می‌تواند مورد سوء استفاده قرار گیرد.

هینتون در مصاحبه‌ای با نیویورک تایمز که روز دوشنبه منتشر شد، اعلام کرد که به سختی می‌توان جلوی بازیگران بد را در این زمینه گرفت تا دست به اقدامات خرابکارانه نزنند و او با این افکار که اگر «من به پیشرفت هوش مصنوعی کمک نمی‌کردم دیگری اینکار را انجام می‌داد» خود را دلداری می‌دهد.

هینتون سال‌ها را در دانشگاه گذراند تا اینکه در سال ۲۰۱۳ به گوگل ملحق شد. او به تایمز گفت که گوگل برای نحوه استقرار هوش مصنوعی مدیریت مناسب داشته و این غول فناوری به سهم خود مسئولانه عمل کرده است.

به گفته وی، یکی از دغدغه‌های اصلی او این است که دسترسی آسان به هوش مصنوعی ابزار‌های تولید متن و تصویر چگونه می‌توانند منجر به ایجاد محتوای جعلی یا تقلبی بیشتری شوند و یک فرد معمولی دیگر قابلیت تشخیص بین درست و نادرست را نخواهد داشت.

وی معتقد است که هوش مصنوعی مولد می‌تواند ابزاری برای اطلاعات غلط باشد و به زودی، برای مشاغل خطر ایجاد می‌کند.

نگرانی‌ها پیرامون هوش مصنوعی

نگرانی‌های پیرامون استفاده نادرست از هوش مصنوعی به واقعیت تبدیل شده اند. زیرا تصاویر جعلی مختلفی با استفاده از هوش مصنوعی تولید شده اند برای مثال چند هفته پیش تصاویر جعلی پاپ فرانسیس با یک ژاکت پفی سفید در فضای مجازی منتشر شد.

همانطور که شرکت‌هایی مانند اپن‌ای‌آی، گوگل و مایکروسافت روی ارتقای هوش مصنوعی خود کار می‌کنند، همچنان درخواست‌های فزاینده‌ای برای کاهش سرعت پیشرفت‌های جدید وجود دارد. برخی از نام‌های برتر صنعت فناوری، از جمله استیو وازنیک، بنیان‌گذار اپل و ایلان ماسک طی نامه‌ای در ماه مارس (اسفند و فروردین)، خواستار ممنوعیت توسعه هوش مصنوعی پیشرفته شدند. هینتون نامه را امضا نکرد، اگرچه او معتقد است که شرکت‌ها باید قبل از گسترش بیشتر فناوری هوش مصنوعی در مورد آن تامل کرده و از اینکه توانایی کنترل این فناوری را دارند اطمینان حاصل کنند.

هینتون همچنین نگران این است که هوش مصنوعی می‌تواند با بی ربط کردن مشاغل غیر فنی، بازار کار را تغییر دهد. وی هشدار داد که این فناوری توانایی آسیب رساندن به انواع بیشتری از نقش‌ها را نیز دارد.

جف دین، دانشمند ارشد گوگل در بیانیه‌ای به فورچون گفت: «جفری پیشرفت‌های اساسی در هوش مصنوعی داشته است و ما از یک دهه مشارکت او در گوگل قدردانی می‌کنیم. اصول، ما به رویکردی مسئولانه نسبت به هوش مصنوعی متعهد هستیم. ما به طور مداوم در حال بررسی خطرات در حال ظهور هستیم و در عین حال جسورانه دست به نوآوری می‌زنیم.»

شروع فعالیت هینتون

هینتون در سال ۱۹۷۲ کار خود را به عنوان دانشجوی کارشناسی ارشد در دانشگاه ادینبورگ آغاز کرد. از آنجا بود که برای اولین بار کار روی شبکه‌های عصبی را آغاز کرد. این شبکه‌ها مدل‌های ریاضی هستند که تقریباً عملکرد مغز انسان را تقلید می‌کنند و قادر به تجزیه و تحلیل حجم وسیعی از داده‌ها هستند.

تحقیقات شبکه عصبی او مفهوم پیشرفت شرکتی بود که او با دو تن از شاگردانش ساخت که در نهایت گوگل آن را در سال ۲۰۱۳ خرید. هینتون جایزه تورینگ ۲۰۱۸ (معادل جایزه نوبل در دنیای محاسبات) را به همراه دو نفر از همکاران خود برای تحقیقات در زمینه شبکه‌های عصبی که منجر به توسعه فناوری‌هایی از جمله چت‌جی‌پی‌تی و گوگل بارد شد دریافت کرد.

هینتون به عنوان یکی از متفکران کلیدی در هوش مصنوعی، لحظه کنونی را سرشار از فرصت می‌بیند. وی در مصاحبه‌ای با سی‌بی‌اس در ماه مارس گفت که معتقد است نوآوری‌های هوش مصنوعی از توانایی ما برای کنترل آن پیشی می‌گیرند و این باعث نگرانی است.

هینتون معتقد است که ما به داشتن رایانه‌هایی نزدیک هستیم که بتوانند ایده‌هایی برای بهبود خود ارائه دهند و اگر هوش مصنوعی بتواند کد برنامه‌هایش را بنویسد و خود آن را اجرا کند به انقراض بشریت نزدیک می‌شویم.