مجله علمی تخیلی Clarkesworld مملو از صدها داستان تولید شده توسط هوش مصنوعی است
مجله علمی تخیلی Clarkesworld مملو از صدها داستان تولید شده توسط هوش مصنوعی است
Clarkesworld، یک مجله علمی تخیلی، پس از دریافت صدها مقاله با کیفیت پایین تولید شده توسط هوش مصنوعی، ارسال داستان های جدید را ممنوع کرده است.
فن آوری
22 فوریه 2023
مجله علمی تخیلی Clarksworld پس از دریافت سیل فزاینده ای از قطعات تولید شده توسط هوش مصنوعی، ارسال داستان را متوقف کنید. نیل کلارک، سردبیر مجله، میگوید که این مشکل توسط افرادی ایجاد شده است که مدلهای شگفتانگیز زبان هوش مصنوعی مانند ChatGPT را به عنوان راهی برای کسب درآمد از انتشار داستانهای داستانی – با وجود کیفیت پایین داستانهای هوش مصنوعی – تبلیغ میکنند.
او میگوید: «پیشنهادهای ماشیننویسی که دریافت کردهایم با کیفیت قابل انتشار فاصله زیادی دارند. “من مطمئن هستم که برخی از آنها کمتر قابل تشخیص هستند، اما اکثریتی که دریافت کردیم برای من آسان بود که شناسایی کنم.”
کلارک میگوید که با سردبیران مجلات دیگری که در حال حاضر با همین مشکل دست و پنجه نرم میکنند صحبت کرده است، اگرچه او میگوید که آنها تمایلی به صحبت با مطبوعات نداشتند – تا زمانی که مشکل به سطوح ناپایدار رسید.
مجله معمولاً از یک خط مشی ارسال آزاد پیروی می کند تا نویسندگان جدید را تشویق کند. اما او پس از دریافت 50 داستان ایجاد شده توسط هوش مصنوعی در آن روز، تصمیم گرفت ارسالها را در 20 فوریه ببندد. در آن نقطه، Clarksworld 700 پست قانونی از ابتدای ماه و 500 پیام تولید شده توسط ماشین دریافت کرده است، با نرخ افزایش به این معنی که داستان های تولید شده توسط هوش مصنوعی به زودی همه چیز را به دست خواهند گرفت.
کلارک میگوید افزایش ارسالهای «ناخواسته» در پایان سال 2022 آغاز شد، یعنی همان زمانی که مدلهای هوش مصنوعی با زبانهای بزرگ در دسترس راهاندازی شدند و ماه به ماه افزایش یافت. “[Those submitting AI-generated stories] به اعتبار آنها در این زمینه اهمیت ندهید. این امر آن را بیشتر شبیه بدافزار یا کلاهبرداری کارت اعتباری می کند و با چالش های مشابهی روبرو می شود. ما سعی خواهیم کرد این موارد را کاهش دهیم و آنها تلاش خواهند کرد تا از آن دور شوند.»
با این حال، همه مجلات علمی تخیلی که هزینه پرداخت می کنند، مشکل مشابهی را تجربه نکرده اند. جبرئیل الایاد، مصحح در آتش آینده، می گوید که او متوجه افزایش ارسال هرزنامه نشده است، اما ممکن است به دلیل کوچکتر بودن آدرس باشد. او با اشاره به ضربه زدن مهاجمان به سرورها میگوید: «فکر میکنم مشکل این است که اگر حجم انتقالها سه برابر شود و همه چیزهای هوش مصنوعی بد باشند، اما هنوز باید خوانده شوند، به نوعی وضعیت حمله انکار سرویس تبدیل میشود.» آفلاین. با ارسال تعداد زیادی درخواست داده.
او میگوید: «منظور من این است که نگران خطر انتشار تصادفی روایتهای تولید شده توسط هوش مصنوعی نباشم، زیرا بیشتر آنها بد خواهند بود.» “اگر نه، خوب… باحال.”