8 مشکل بزرگ ChatGPT OpenAI

74
0
مشکل بزرگ ChatGPT OpenAI

چت ربات جدید OpenAI به دلیل پاسخ های چشمگیرش توجه ها را به خود جلب کرده است، اما چقدر از آن قابل باور است؟ بیایید قسمت تاریک ChatGPT را بررسی کنیم. 8 مشکل بزرگ ChatGPT OpenAI را بخوانید.

ChatGPT یک چت ربات قدرتمند هوش مصنوعی است که به سرعت تحت تاثیر قرار می‌گیرد، با این حال بسیاری از مردم به این موضوع اشاره کرده‌اند که مشکلات جدی دارد.

از نقض‌های امنیتی گرفته تا نگرانی‌های مربوط به حریم خصوصی گرفته تا داده‌های فاش نشده که روی آن آموزش داده شده است، نگرانی‌های زیادی در مورد چت ربات مجهز به هوش مصنوعی وجود دارد، با این حال این فناوری در حال حاضر در برنامه‌ها گنجانده شده و توسط میلیون‌ها کاربر، از دانش‌آموز تا کارمند شرکت، استفاده می‌شود.

بدون هیچ نشانه ای از کاهش سرعت توسعه هوش مصنوعی، درک مشکلات مربوط به ChatGPT حتی مهم تر است. با تنظیم ChatGPT برای تغییر آینده ما، در اینجا برخی از بزرگترین مشکلات وجود دارد.

ChatGPT چیست؟

ChatGPT یک مدل زبان بزرگ است که برای تولید زبان طبیعی انسان طراحی شده است. دقیقاً مانند مکالمه با یک نفر، می توانید با ChatGPT صحبت کنید و چیزهایی را که در گذشته گفته اید را به خاطر می آورد و در عین حال می تواند در صورت به چالش کشیدن خود را اصلاح کند.

در مورد انواع متن از اینترنت، فکر کنید ویکی‌پدیا، پست‌های وبلاگ، کتاب‌ها و مقالات دانشگاهی آموزش داده شد. در کنار پاسخگویی به شما به روشی شبیه به انسان، می‌تواند اطلاعاتی را درباره دنیای امروزی ما به یاد بیاورد و اطلاعات تاریخی از گذشته ما را نیز جمع‌آوری کند.

یادگیری نحوه استفاده از ChatGPT ساده است و به راحتی می توان فریب خورد و فکر کرد که سیستم هوش مصنوعی بدون هیچ مشکلی کار می کند. با این حال، در ماه‌های پس از انتشار، مشکلات کلیدی در مورد حریم خصوصی، امنیت و تأثیر گسترده‌تر آن بر زندگی مردم، از شغل گرفته تا آموزش، پدیدار شد.

1. تهدیدات امنیتی و نگرانی های حفظ حریم خصوصی

در مارس 2023، یک نقض امنیتی به این معنی بود که برخی از کاربران در ChatGPT عناوین گفتگو را در نوار کناری مشاهده کردند که متعلق به آنها نبود. اشتراک‌گذاری تصادفی تاریخچه چت کاربران یک نگرانی جدی برای هر شرکت فناوری است، اما با توجه به تعداد افرادی که از چت‌بات محبوب استفاده می‌کنند، بد است.

همانطور که رویترز گزارش داده است، ChatGPT تنها در ژانویه 2023 ماهانه 100 میلیون کاربر فعال داشته است. در حالی که اشکالی که باعث نقض شد به سرعت برطرف شد، تنظیم کننده داده ایتالیایی از OpenAI خواست تمام عملیاتی که داده های کاربران ایتالیایی را پردازش می کند متوقف کند.

سازمان دیده بان مشکوک بود که قوانین حریم خصوصی اروپا نقض شده است. پس از بررسی این موضوع، درخواست کرد که OpenAI چندین درخواست برای بازگرداندن ربات چت را برآورده کند.

OpenAI در نهایت با ایجاد چندین تغییر مهم این مشکل را با تنظیم کننده ها حل کرد. برای شروع، یک محدودیت سنی اضافه شد که استفاده از برنامه را به افراد بالای 18 یا 13 سال با اجازه سرپرست محدود می‌کند. همچنین خط‌مشی رازداری خود را قابل مشاهده‌تر کرد و فرم انصراف Google را برای کاربران فراهم کرد تا داده‌های خود را از آموزش ChatGPT حذف کنند و در صورت تمایل آن را به طور کامل حذف کنند.

این تغییرات یک شروع عالی هستند، اما بهبودها باید به همه کاربران ChatGPT تعمیم داده شود.

این تنها راهی نیست که ChatGPT یک تهدید امنیتی نیز ایجاد می کند. به اشتراک گذاری تصادفی اطلاعات محرمانه به عنوان یک کاربر آسان است. یک مثال خوب این است که چگونه کارمندان سامسونگ چندین بار اطلاعات شرکت را با ChatGPT به اشتراک گذاشتند.

2. نگرانی در مورد آموزش ChatGPT و مسائل مربوط به حریم خصوصی

پس از راه‌اندازی گسترده ChatGPT، بسیاری از مردم این سوال را مطرح کردند که OpenAI چگونه مدل خود را در وهله اول آموزش داده است.

حتی با تغییرات بهبود یافته در سیاست‌های حفظ حریم خصوصی OpenAI پس از حادثه با تنظیم‌کننده‌های ایتالیایی، ممکن است رعایت مقررات حفاظت از داده‌های عمومی (GDPR)، یک قانون حفاظت از داده‌ها که اروپا را پوشش می‌دهد، کافی نباشد. همانطور که TechCrunch گزارش می دهد:

بسیار محتمل است که OpenAI هنگام آموزش ChatGPT اطلاعات شخصی را جمع آوری کرده باشد. در حالی که قوانین در ایالات متحده کمتر قطعی است، قوانین داده اروپا همچنان از داده های شخصی افراد محافظت می کند، چه آنها این اطلاعات را به صورت عمومی یا خصوصی ارسال کنند.

استدلال‌های مشابهی علیه داده‌های آموزشی توسط هنرمندانی مطرح می‌شود که می‌گویند هرگز با کار خود برای آموزش یک مدل هوش مصنوعی موافقت نکرده‌اند. در همان زمان، Getty Images از Stability.AI به دلیل استفاده از تصاویر دارای حق چاپ برای آموزش مدل های هوش مصنوعی شکایت کرد.

مگر اینکه OpenAI داده های آموزشی خود را منتشر کند، فقدان شفافیت تشخیص اینکه آیا این کار به طور قانونی انجام شده است را دشوار می کند. به عنوان مثال، ما به سادگی نمی دانیم که چگونه ChatGPT آموزش داده می شود، از چه داده هایی استفاده شده است، داده ها از کجا می آیند، یا معماری سیستم با جزئیات به نظر می رسد.

3. ChatGPT پاسخ های اشتباه ایجاد می کند

 

در ریاضیات پایه شکست می خورد، به نظر نمی رسد به سؤالات منطقی ساده پاسخ دهد، و حتی تا آنجا پیش می رود که حقایق کاملاً نادرست را استدلال می کند. همانطور که مردم در سراسر رسانه های اجتماعی تأیید می کنند، ChatGPT می تواند چندین بار اشتباه کند.

OpenAI در مورد این محدودیت می‌داند و می‌نویسد: “ChatGPT گاهی اوقات پاسخ‌هایی با صدای معقول اما نادرست یا بی‌معنی می‌نویسد.” این “توهم” واقعیت و تخیل، همانطور که به آن اشاره شد، به ویژه در مورد مواردی مانند توصیه های پزشکی یا درست کردن حقایق در مورد رویدادهای مهم تاریخی خطرناک است.

ChatGPT برخلاف سایر دستیاران هوش مصنوعی مانند سیری یا الکسا از اینترنت برای یافتن پاسخ ها استفاده نمی کند. در عوض، یک جمله را کلمه به کلمه می سازد و محتمل ترین “توکن” را که باید بر اساس آموزش آن قرار گیرد، انتخاب می کند. به عبارت دیگر، ChatGPT با ایجاد یک سری حدس‌ها به یک پاسخ می‌رسد، که بخشی از این است که چرا می‌تواند پاسخ‌های اشتباه را طوری استدلال کند که گویی کاملاً درست هستند.

در حالی که در توضیح مفاهیم پیچیده عالی است، و آن را به ابزاری قدرتمند برای یادگیری تبدیل می کند، مهم است که هر چیزی را که می گوید باور نکنید. ChatGPT همیشه درست نیست – حداقل هنوز درست نیست.

4. ChatGPT دارای تعصب در سیستم خود است

ChatGPT بر روی نوشتن جمعی انسان ها در سراسر جهان، گذشته و حال آموزش دیده است. متأسفانه، این بدان معنی است که همان سوگیری هایی که در دنیای واقعی وجود دارد می تواند در مدل نیز ظاهر شود.

نشان داده شده است که ChatGPT پاسخ‌های وحشتناکی را ارائه می‌کند که علیه جنسیت، نژاد و گروه‌های اقلیت تبعیض قائل می‌شود، که این شرکت در تلاش است تا آن‌ها را کاهش دهد.

یکی از راه های توضیح این موضوع این است که به داده ها به عنوان مشکل اشاره کنیم و بشریت را به دلیل تعصبات تعبیه شده در اینترنت و فراتر از آن سرزنش کنیم. اما بخشی از مسئولیت نیز بر عهده OpenAI است که محققان و توسعه دهندگان آن داده های مورد استفاده برای آموزش ChatGPT را انتخاب می کنند.

بار دیگر، OpenAI می‌داند که این یک مشکل است و گفته است که با جمع‌آوری بازخورد از کاربران و تشویق آنها به پرچم‌گذاری خروجی‌های ChatGPT که بد، توهین‌آمیز یا به سادگی نادرست هستند، به «رفتار مغرضانه» رسیدگی می‌کند.

با احتمال آسیب رساندن به مردم، می توانید استدلال کنید که ChatGPT نباید قبل از مطالعه و حل این مشکلات برای عموم منتشر می شد. اما رقابت برای اولین شرکتی که قدرتمندترین مدل هوش مصنوعی را ایجاد می کند، ممکن است برای OpenAI کافی باشد تا احتیاط را به باد دهد.

در مقابل، یک ربات چت هوش مصنوعی مشابه به نام اسپارو – متعلق به شرکت مادر گوگل، آلفابت – در سپتامبر 2022 منتشر شد. با این حال، به دلیل نگرانی های ایمنی مشابه، عمداً پشت درهای بسته نگه داشته شد.

تقریباً در همان زمان، فیس بوک یک مدل زبان هوش مصنوعی به نام Galactica را منتشر کرد که برای کمک به تحقیقات آکادمیک طراحی شده بود. با این حال، پس از اینکه بسیاری از مردم از آن به دلیل ارائه نتایج اشتباه و مغرضانه مرتبط با تحقیقات علمی انتقاد کردند، به سرعت فراخوانی شد.

5. ChatGPT ممکن است مشاغل را از انسان بگیرد

پس از توسعه و استقرار سریع ChatGPT، گرد و غبار هنوز فروکش نکرده است، اما این امر مانع از بخیه شدن فناوری زیربنایی در تعدادی از برنامه های تجاری نشده است. از جمله برنامه هایی که GPT-4 را یکپارچه کرده اند Duolingo و Khan Academy هستند.

اولی یک برنامه یادگیری زبان است، در حالی که دومی یک ابزار آموزشی متنوع است. هر دو چیزی را ارائه می دهند که اساساً یک معلم هوش مصنوعی است، یا به شکل یک شخصیت مبتنی بر هوش مصنوعی که می توانید به زبانی که در حال یادگیری با آن هستید صحبت کنید. یا به عنوان یک معلم AI که می تواند بازخورد مناسبی در مورد یادگیری شما به شما بدهد.

این می تواند تنها آغازی باشد که هوش مصنوعی مشاغل انسانی را حفظ می کند. در میان سایر مشاغل صنعتی که با اختلال مواجه هستند، می توان به حقوقدانان، وکلا، کپی رایترها، روزنامه نگاران و برنامه نویسان اشاره کرد.

از یک طرف، هوش مصنوعی می‌تواند روش یادگیری ما را تغییر دهد و به طور بالقوه آموزش را در دسترس‌تر و فرآیند یادگیری را کمی آسان‌تر کند. اما از سوی دیگر، بخش عظیمی از مشاغل انسانی در همان زمان با از بین رفتن مواجه می شوند.

همانطور که گاردین گزارش داد، شرکت‌های آموزشی زیان‌های زیادی را در بورس لندن و نیویورک وارد کردند، که نشان می‌دهد اختلالی که هوش مصنوعی تنها شش ماه پس از راه‌اندازی ChatGPT در برخی بازارها ایجاد می‌کند.

پیشرفت های فناوری همیشه منجر به از دست رفتن مشاغل شده است، اما سرعت پیشرفت های هوش مصنوعی به این معنی است که چندین صنعت به طور همزمان با تغییرات سریع روبرو می شوند. نمی توان انکار کرد که ChatGPT و فناوری زیربنایی آن قرار است دنیای مدرن ما را به شدت تغییر دهد.

6. ChatGPT آموزش چالش برانگیز است

می‌توانید از ChatGPT بخواهید نوشته‌های شما را تصحیح کند یا به نحوه بهبود یک پاراگراف اشاره کند. یا می توانید خود را به طور کامل از معادله حذف کنید و از ChatGPT بخواهید که تمام نوشتن را برای شما انجام دهد.

معلمان با دادن تکالیف انگلیسی به ChatGPT آزمایش کرده‌اند و پاسخ‌هایی دریافت کرده‌اند که بهتر از آنچه بسیاری از دانش‌آموزانشان می‌توانستند انجام دهند. ChatGPT از نوشتن نامه‌های پوششی گرفته تا توصیف موضوعات اصلی در یک اثر ادبی معروف، می‌تواند همه این کارها را بدون تردید انجام دهد.

این سؤال پیش می‌آید: اگر ChatGPT بتواند برای ما بنویسد، آیا دانش‌آموزان باید در آینده نوشتن را یاد بگیرند؟ ممکن است این یک سوال وجودی به نظر برسد، اما زمانی که دانش‌آموزان شروع به استفاده از ChatGPT برای کمک به نوشتن مقاله‌های خود می‌کنند، مدارس باید سریع به یک پاسخ فکر کنند.

این فقط موضوعات انگلیسی نیستند که در معرض خطر هستند. ChatGPT می تواند به هر کاری که شامل طوفان فکری، خلاصه کردن، یا نتیجه گیری هوشمندانه باشد کمک کند.

جای تعجب نیست که دانش‌آموزان در حال حاضر آزمایش هوش مصنوعی را بر عهده گرفته‌اند. استنفورد دیلی گزارش می دهد که بررسی های اولیه نشان می دهد که تعداد قابل توجهی از دانش آموزان از هوش مصنوعی برای کمک به انجام تکالیف و امتحانات استفاده کرده اند. در پاسخ، برخی از مربیان در حال نوشتن مجدد دوره‌هایی هستند تا از دانش‌آموزانی که از هوش مصنوعی برای عبور از کلاس‌ها یا تقلب در امتحانات استفاده می‌کنند، پیشی بگیرند.

7. ChatGPT می تواند باعث آسیب به دنیای واقعی شود

طولی نکشید که شخصی سعی کرد ChatGPT را جیلبریک کند و در نتیجه یک مدل هوش مصنوعی ایجاد شد که می‌توانست از گارد ریل OpenAI عبور کند تا از تولید متن توهین‌آمیز و خطرناک جلوگیری کند.

گروهی از کاربران در گروه ChatGPT Reddit نام مدل هوش مصنوعی نامحدود خود را Dan، مخفف «Do Anything Now» گذاشتند. متأسفانه، انجام هر کاری که دوست دارید باعث شده تا هکرها کلاهبرداری های آنلاین را افزایش دهند. ArsTechnica همچنین گزارش می دهد که هکرها خدمات ChatGPT بدون قانون را می فروشند که بدافزار ایجاد می کنند و ایمیل های فیشینگ تولید می کنند.

تلاش برای شناسایی یک ایمیل فیشینگ که برای استخراج جزئیات حساس از شما طراحی شده است، اکنون با متن تولید شده توسط هوش مصنوعی بسیار دشوارتر است. اشتباهات گرامری، که قبلاً یک پرچم قرمز آشکار بودند، وجود ندارند، زیرا ChatGPT می‌تواند به روانی انواع متن، از مقاله گرفته تا شعر و ایمیل‌های مبهم را بنویسد.

انتشار اطلاعات جعلی نیز یک نگرانی جدی است. مقیاسی که ChatGPT می‌تواند متن تولید کند، همراه با توانایی ایجاد حتی اطلاعات نادرست به‌طور قانع‌کننده، همه چیز را در اینترنت مشکوک می‌کند و خطرات فناوری دیپ ‌فیک را تشدید می‌کند.

سرعتی که ChatGPT می تواند اطلاعات تولید کند، قبلاً برای Stack Exchange، وب سایتی که به ارائه پاسخ های صحیح به سؤالات روزمره اختصاص دارد، مشکلاتی ایجاد کرده است. به زودی پس از انتشار ChatGPT، کاربران سایت را با پاسخ هایی که از ChatGPT درخواست کرده بودند پر کردند.

بدون داوطلبان انسانی کافی برای مرتب سازی مطالب عقب افتاده، حفظ سطح بالایی از پاسخ های با کیفیت غیرممکن خواهد بود. ناگفته نماند، بسیاری از پاسخ ها به سادگی صحیح نبودند. برای جلوگیری از آسیب دیدن وب‌سایت، تمام پاسخ‌هایی که با استفاده از ChatGPT ایجاد شده‌اند ممنوع شد.

8. OpenAI تمام قدرت را نگه می دارد

با قدرت زیاد، مسئولیت بزرگی به همراه دارد، و OpenAI قدرت زیادی دارد. این یکی از اولین شرکت های هوش مصنوعی است که نه یک بلکه با چندین مدل هوش مصنوعی مولد، از جمله Dall-E 2، GPT-3 و GPT-4، واقعا دنیا را تکان داد.

به عنوان یک شرکت خصوصی، OpenAI داده‌های مورد استفاده برای آموزش ChatGPT را انتخاب می‌کند و انتخاب می‌کند که با چه سرعتی پیشرفت‌های جدید را ارائه کند. در نتیجه، کارشناسان زیادی وجود دارند که در مورد خطرات ناشی از هوش مصنوعی هشدار می‌دهند، اما نشانه‌ای از کند شدن اوضاع وجود ندارد.

برعکس، محبوبیت ChatGPT رقابتی را بین شرکت‌های بزرگ فناوری که برای راه‌اندازی مدل بزرگ بعدی هوش مصنوعی رقابت می‌کنند، برانگیخته است. از جمله آنها می توان به هوش مصنوعی Bing مایکروسافت و Bard از گوگل اشاره کرد. از ترس اینکه توسعه سریع منجر به مشکلات ایمنی جدی شود، نامه‌ای توسط رهبران فناوری در سراسر جهان نوشته شد که در آن درخواست تاخیر در توسعه داده شد.

در حالی که OpenAI ایمنی را اولویت بالایی می‌داند، چیزهای زیادی در مورد نحوه عملکرد خود مدل‌ها، خوب یا بد، وجود دارد. در پایان روز، بسیاری از ما باید کورکورانه اعتماد کنیم که OpenAI به طور مسئولانه در مورد ChatGPT تحقیق، توسعه و استفاده خواهد کرد.

چه با روش‌های آن موافق باشیم یا نه، لازم به یادآوری است که OpenAI یک شرکت خصوصی است که به توسعه ChatGPT مطابق با اهداف و استانداردهای اخلاقی خود ادامه خواهد داد.

مقابله با بزرگترین مشکلات هوش مصنوعی

با ChatGPT چیزهای زیادی برای هیجان زده شدن وجود دارد، اما فراتر از کاربردهای فوری آن، مشکلات جدی نیز وجود دارد.

OpenAI اذعان می‌کند که ChatGPT می‌تواند پاسخ‌های مضر و مغرضانه ایجاد کند، به این امید که با جمع‌آوری فیدبک کاربران، مشکل را کاهش دهد. اما توانایی آن در تولید متن قانع کننده، حتی زمانی که واقعیت ها درست نیستند، می تواند به راحتی توسط بازیگران بد استفاده شود.

نقض حریم خصوصی و امنیت قبلاً نشان داده است که سیستم OpenAI می تواند آسیب پذیر باشد و اطلاعات شخصی کاربران را در معرض خطر قرار دهد. علاوه بر این، مردم ChatGPT را جیلبریک می کنند و از نسخه نامحدود برای تولید بدافزار و کلاهبرداری در مقیاسی استفاده می کنند که قبلاً ندیده ایم.

تهدیدهای شغلی و احتمال ایجاد اختلال در آموزش، چند مشکل دیگر هستند که در حال انباشته شدن هستند. با فناوری جدید، پیش‌بینی مشکلاتی که در آینده به وجود می‌آیند دشوار است، اما متأسفانه، لازم نیست خیلی دور نگاه کنیم. ChatGPT سهم عادلانه ای از چالش ها را برای ما ایجاد کرده است که در حال حاضر باید با آنها مقابله کنیم.

امتیاز این مطلب
سهیل دهقانی
نوشته شده توسط

سهیل دهقانی

علاقه مند به فناوری و تکنولوژی های روز دنیا کارشناس سئو و تولید محتوا

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

گوگل فارکس آموزش تخصصی آمارکتس