چت ربات جدید OpenAI به دلیل پاسخ های چشمگیرش توجه ها را به خود جلب کرده است، اما چقدر از آن قابل باور است؟ بیایید قسمت تاریک ChatGPT را بررسی کنیم. مشکل بزرگ ChatGPT OpenAI را در ادامه بررسی کرده ایم.
ChatGPT یک چت ربات جدید و قدرتمند هوش مصنوعی است که به سرعت تحت تاثیر قرار می‌گیرد، با این حال بسیاری از مردم به این موضوع اشاره کرده‌اند که مشکلات جدی دارد. هر چیزی را که دوست دارید از آن بپرسید، و پاسخی دریافت خواهید کرد که به نظر می رسد توسط یک انسان نوشته شده است، زیرا دانش و مهارت های نوشتاری خود را از آموزش روی حجم انبوه داده در سراسر اینترنت آموخته است.
با این حال، دقیقاً مانند اینترنت، خط بین حقیقت و فانتزی مطمئناً بی ثبات است و ChatGPT در بیش از یک بار اشتباه کردن آن مقصر است.
ChatGPT چیست؟
ChatGPT یک مدل زبان بزرگ است که برای تولید زبان طبیعی انسان طراحی شده است. دقیقاً مانند مکالمه با یک نفر، می توانید با ChatGPT صحبت کنید و چیزهایی را که در گذشته گفته اید را به خاطر می آورد و در عین حال می تواند در صورت به چالش کشیدن خود را اصلاح کند.
در مورد انواع متن از اینترنت، فکر کنید ویکی‌پدیا، پست‌های وبلاگ، کتاب‌ها و مقالات دانشگاهی آموزش داده شد. این بدان معناست که در کنار پاسخگویی به شما به شیوه‌ای شبیه انسان، می‌تواند اطلاعاتی را درباره دنیای امروز ما به یاد بیاورد، به علاوه اطلاعات تاریخی را از گذشته ما جمع‌آوری کند.
یادگیری نحوه استفاده از ChatGPT ساده است و به راحتی می توان فریب خورد و فکر کرد که سیستم هوش مصنوعی بدون هیچ مشکلی کار می کند. با این حال، در ماه های پس از انتشار، مردم در سراسر جهان چت ربات هوش مصنوعی را به حد خود رساندند تا برخی از مشکلات کلیدی را آشکار کنند.
1. ChatGPT پاسخ های اشتباه ایجاد می کند
در ریاضیات پایه شکست می خورد، به نظر نمی رسد به سؤالات منطقی ساده پاسخ دهد، و حتی تا آنجا پیش می رود که حقایق کاملاً نادرست را استدلال می کند. همانطور که افراد در سراسر رسانه های اجتماعی تأیید می کنند، ChatGPT می تواند در بیش از یک بار اشتباه کند.
OpenAI در مورد این محدودیت می‌داند و می‌نویسد: “ChatGPT گاهی اوقات پاسخ‌هایی با صدای معقول اما نادرست یا بی‌معنی می‌نویسد.” این “توهم” واقعیت و تخیل، همانطور که به آن اشاره شده است، به ویژه در مواردی مانند توصیه های پزشکی، یا درست کردن حقایق در مورد رویدادهای مهم تاریخی خطرناک است.
برخلاف سایر دستیاران هوش مصنوعی مانند سیری یا الکسا، ChatGPT از اینترنت برای یافتن پاسخ ها استفاده نمی کند. در عوض، یک جمله را کلمه به کلمه می‌سازد و بر اساس آموزش، محتمل‌ترین «نشانه» را انتخاب می‌کند. به عبارت دیگر، ChatGPT با ایجاد یک سری حدس‌ها به یک پاسخ می‌رسد، که بخشی از دلیل آن است که می‌تواند پاسخ‌های اشتباه را طوری استدلال کند که گویی کاملاً درست هستند.
در حالی که در توضیح مفاهیم پیچیده عالی است، و آن را به ابزاری قدرتمند برای یادگیری تبدیل می کند، مهم است که هر چیزی را که می گوید باور نکنید. ChatGPT همیشه درست نیست – حداقل هنوز درست نیست.
2. ChatGPT دارای تعصب در سیستم خود است
ChatGPT بر روی نوشتن جمعی انسان ها در سراسر جهان، گذشته و حال آموزش دیده است. متأسفانه، این بدان معنی است که همان سوگیری هایی که در دنیای واقعی وجود دارد می تواند در مدل نیز ظاهر شود.
نشان داده شده است که ChatGPT پاسخ‌های وحشتناکی را ارائه می‌کند که علیه جنسیت، نژاد و گروه‌های اقلیت تبعیض قائل می‌شود، چیزی که شرکت در تلاش است تا آن را کاهش دهد.
یکی از راه‌های توضیح این موضوع این است که به داده‌ها به عنوان مشکل اشاره کنیم و بشریت را به دلیل تعصبات موجود در اینترنت و فراتر از آن سرزنش کنیم. اما بخشی از مسئولیت نیز بر عهده OpenAI است که محققان و توسعه دهندگان آن داده هایی را انتخاب می کنند که برای آموزش ChatGPT استفاده می شود.
بار دیگر، OpenAI می‌داند که این یک مشکل است و گفته است که با جمع‌آوری بازخورد از کاربرانی که تشویق می‌شوند خروجی‌های ChatGPT بد را پرچم‌گذاری کنند، به آنچه «رفتار جانبدارانه» می‌گویند، رسیدگی می‌کنند.
با احتمال آسیب رساندن به مردم، می توانید استدلال کنید که ChatGPT نباید قبل از مطالعه و حل این مشکلات برای عموم منتشر می شد. اما رقابت برای اولین شرکتی که قدرتمندترین ابزارهای هوش مصنوعی را عرضه می کند، ممکن است برای OpenAI کافی باشد تا احتیاط را به باد دهد.
در مقابل، یک چت ربات هوش مصنوعی مشابه به نام اسپارو – متعلق به شرکت مادر گوگل، آلفابت – در سپتامبر 2022 منتشر شد. با این حال، به دلیل نگرانی های ایمنی مشابه، عمداً پشت درهای بسته نگه داشته شد.
تقریباً در همان زمان، فیس بوک یک مدل زبان هوش مصنوعی به نام Galactica را منتشر کرد که برای کمک به تحقیقات آکادمیک طراحی شده بود. پس از اینکه بسیاری از مردم به دلیل ارائه نتایج اشتباه و مغرضانه مرتبط با تحقیقات علمی از آن انتقاد کردند، به سرعت فراخوانی شد.
3. ChatGPT ممکن است مشاغل را از انسان بگیرد
پس از توسعه و استقرار سریع ChatGPT و فناوری زیربنایی پشت آن در حال حاضر در تعدادی از برنامه‌های تجاری دوخته شده است، گرد و غبار هنوز فروکش نکرده است. از جمله برنامه هایی که GPT-4 را ادغام کرده اند Duolingo و Khan Academy هستند.
اولی یک برنامه یادگیری زبان است، در حالی که دومی یک ابزار آموزشی متنوع است. هر دو چیزی را ارائه می دهند که اساساً یک معلم هوش مصنوعی است، یا به شکل یک شخصیت مبتنی بر هوش مصنوعی که می توانید به زبانی که در حال یادگیری با آن هستید صحبت کنید. یا به عنوان یک معلم AI که می تواند بازخورد مناسبی در مورد یادگیری شما به شما بدهد.
از یک طرف، این می تواند نحوه یادگیری ما را تغییر دهد، به طور بالقوه آموزش را در دسترس تر می کند و روند یادگیری را کمی آسان تر می کند. اما نکته منفی این است که این کار مشاغلی را که برای مدت طولانی در اختیار انسان بوده است، از بین می برد.
پیشرفت‌های فناوری همیشه منجر به از دست رفتن مشاغل شده است، اما سرعت پیشرفت‌های هوش مصنوعی به این معنی است که چندین صنعت با مشکل مشابهی روبرو هستند. از آموزش گرفته تا تصویرسازی و نقش های خدمات مشتری، ChatGPT، و فناوری زیربنایی آن، دنیای مدرن ما را به شدت تغییر می دهد.
4. ChatGPT می تواند انگلیسی دبیرستان را به چالش بکشد
می‌توانید از ChatGPT بخواهید نوشته‌های شما را تصحیح کند یا به نحوه بهبود یک پاراگراف اشاره کند. یا می توانید خود را به طور کامل از معادله حذف کنید و از ChatGPT بخواهید که تمام نوشتن را برای شما انجام دهد.
معلمان با دادن تکالیف انگلیسی به ChatGPT آزمایش کرده‌اند و پاسخ‌هایی دریافت کرده‌اند که بهتر از آنچه بسیاری از دانش‌آموزانشان می‌توانستند انجام دهند. ChatGPT از نوشتن نامه‌های پوششی گرفته تا توصیف موضوعات اصلی در یک اثر ادبی معروف، می‌تواند همه این کارها را بدون تردید انجام دهد.
این سؤال پیش می‌آید: اگر ChatGPT بتواند برای ما بنویسد، آیا دانش‌آموزان باید در آینده نوشتن را یاد بگیرند؟ ممکن است این یک سوال وجودی به نظر برسد، اما زمانی که دانش‌آموزان شروع به استفاده از ChatGPT برای کمک به نوشتن مقاله‌های خود می‌کنند، مدارس باید سریع به یک پاسخ فکر کنند. استقرار سریع هوش مصنوعی در سال های اخیر قرار است بسیاری از صنایع را شوکه کند و آموزش تنها یکی از آنهاست.
5. ChatGPT می تواند باعث آسیب به دنیای واقعی شود
قبلاً اشاره کردیم که چگونه اطلاعات نادرست توسط ChatGPT می‌تواند باعث آسیب به دنیای واقعی شود، که یکی از نمونه‌های آن توصیه‌های پزشکی اشتباه است. اما نگرانی های دیگری نیز وجود دارد.
سرعت تولید متن با صدای طبیعی باعث می‌شود که کلاهبردارانی که در رسانه‌های اجتماعی وانمود می‌کنند فردی هستند که شما را می‌شناسید، مشکلی ایجاد کند. به همین ترتیب، مشاهده یک ایمیل فیشینگ که برای استخراج جزئیات حساس از شما طراحی شده است، کارآمد است، با این مزیت اضافه که ChatGPT می‌تواند متنی بدون اشتباهات گرامری تولید کند – چیزی که قبلاً یک پرچم قرمز آشکار بود.
انتشار اطلاعات جعلی نیز یک نگرانی جدی است. مقیاسی که در آن ChatGPT می تواند متن تولید کند، همراه با توانایی ایجاد اطلاعات حتی نادرست به طور قانع کننده ای درست، مطمئناً اطلاعات موجود در اینترنت را مشکوک تر خواهد کرد.
عکس
سرعتی که ChatGPT می تواند اطلاعات تولید کند، قبلاً برای Stack Exchange، وب سایتی که به ارائه پاسخ های صحیح به سؤالات روزمره اختصاص دارد، مشکلاتی ایجاد کرده است. به زودی پس از انتشار ChatGPT، کاربران شروع به پر کردن سایت با پاسخ هایی کردند که از ChatGPT خواستند آن را ایجاد کند.
بدون داوطلبان انسانی کافی برای مرتب سازی مطالب عقب افتاده، حفظ سطح بالایی از پاسخ های با کیفیت غیرممکن خواهد بود. ناگفته نماند، بسیاری از پاسخ ها به سادگی صحیح نبودند. برای جلوگیری از آسیب دیدن وب‌سایت، تمام پاسخ‌هایی که با استفاده از ChatGPT ایجاد شده‌اند ممنوع شد.
6. OpenAI تمام قدرت را نگه می دارد
با قدرت زیاد، مسئولیت بزرگی به همراه دارد، و OpenAI قدرت زیادی دارد. این یکی از اولین شرکت‌های هوش مصنوعی است که نه یک، بلکه با چندین مدل هوش مصنوعی مولد از جمله Dall-E 2، GPT-3 و GPT-4 واقعاً دنیا را تکان داد.
OpenAI انتخاب می کند که از چه داده هایی برای آموزش ChatGPT استفاده شود، اما این اطلاعات برای عموم در دسترس نیست. ما به سادگی نمی دانیم که چگونه ChatGPT آموزش داده می شود، از چه داده هایی استفاده شده است، داده ها از کجا می آیند، یا معماری سیستم با جزئیات چگونه به نظر می رسد.
در حالی که OpenAI ایمنی را اولویت بالایی می‌داند، چیزهای زیادی در مورد نحوه عملکرد خود مدل‌ها، خوب یا بد، وجود دارد. چه فکر می‌کنید که کد باید منبع باز باشد، یا موافقید که باید بخش‌هایی از آن را مخفی نگه دارد، کار زیادی نمی‌توانیم در مورد آن انجام دهیم.
در پایان روز، ما باید کورکورانه اعتماد کنیم که OpenAI به طور مسئولانه به تحقیق، توسعه و استفاده از ChatGPT خواهد پرداخت. خواه با روش ها موافق باشیم یا نه، OpenAI به توسعه ChatGPT مطابق با اهداف و استانداردهای اخلاقی خود ادامه خواهد داد.
مقابله با بزرگترین مشکلات هوش مصنوعی
در مورد ChatGPT چیزهای زیادی وجود دارد که باید هیجان زده شد، اما فراتر از کاربردهای فوری آن، مشکلات جدی وجود دارد که ارزش درک را دارد. OpenAI اذعان می‌کند که ChatGPT می‌تواند پاسخ‌های مضر و مغرضانه ایجاد کند، به این امید که با جمع‌آوری بازخورد کاربران، مشکل را کاهش دهد. اما توانایی آن در تولید متن قانع کننده، حتی زمانی که حقایق واقعی نیستند، می تواند به راحتی توسط افرادی با نیت بد استفاده شود.
با فناوری جدید، پیش بینی مشکلاتی که در آینده به وجود می‌آیند دشوار است. بنابراین، اگرچه ممکن است استفاده از آن سرگرم کننده باشد، مطمئن شوید که همه چیزهایی را که ChatGPT می گوید باور نکنید.
