کتاب‌های تولیدشده با هوش مصنوعی در آمازون می‌توانند خطرناک باشند
به گزارش خبرنگار فرهنگ و جامعه خبرگزاری علم و فناوری آنا، اخیراً کارشناس‌ها هشدار داده‌اند که تکثیر بی‌رویه کتاب‌های راهنمای تولیدشده با هوش مصنوعی و فروششان در سایت آمازون می‌تواند پیامدهای مهلکی به دنبال داشته باشد.
نویسنده‌ها و کارشناس‌ها مدام به خواننده‌ها هشدار می‌دهند که از کتاب‌های آشپزی گرفته تا کتاب‌های راهنمای سفر تولید شده توسط هوش مصنوعی می‌توانند حسابی آنها را گمراه کنند.
تازهترین ماجرا درباره اعتماد کورکورانه به توصیه‌های هوش مصنوعی مربوط به دنیای شکار قارچ‌ها است. انجمن قارچ شناسی نیویورک اخیراً در شبکه‌های اجتماعی خود در خصوص خطرات ناشی از کتاب‌های غیرکارشناسانه‌ای که مشخص است با استفاده از ابزارهای هوش مصنوعی مانند چت جی پی تی تولید شده‌اند هشدار داده است.
سیگرید جیکوب، رئیس انجمن قارچ شناسی نیویورک، در مصاحبه‌ای با سایت 404 مدیا گفت: «صدها قارچ سمی در آمریکای شمالی وجود دارد که برخی از آنها کشنده هستند. ممکن است در نگاه اول آنها شبیه گونه‌های خوردنی به نظر برسند. یک توصیف و توضیح ضعیف در یک کتاب می‌تواند فرد را نسبت به خوردن یک قارچ سمی گمراه کند.»
یک تحقیق درباره صدها عنوان مشکوک کتاب‌های توزیع شده در آمازون مانند «راهنمای میدانی تمام قارچ‌های منطقه جنوب غرب» و «کتاب آشپزی با قارچ‌های وحشی برای تازه کارها» نشان می‌دهد که احتمالاً این‌ها توسط نویسنده‌های واقعی نوشته نشده‌اند. این کتاب‌های تولیدشده توسط هوش مصنوعی روند مشابهی را دنبال می‌کنند.
محتوای این کتاب پر از اطلاعات نادرست و از الگوهای رایج در متن‌های تولید شده توسط مصنوعی پیروی می‌کنند، به جای این که اطلاعات علمی واقعی درباره قارچ شناسی ارائه دهند. با این حال، این کتاب‌ها به راحتی به افرادی که نمی‌توانند فرق بین توصیه‌های غیرایمن تولیدشده توسط هوش مصنوعی و منابع موثق را تشخیص دهند فروخته می‌شوند.
جیکوب می‌گوید: «برای نوشتن کتاب‌ها به دست انسان‌ها سال‌ها وقت صرف می‌شود. کارشناس‌ها می گویند ما باید حسابی مواظب اعتماد بیش از اندازه به هوش مصنوعی باشیم، چون هوش مصنوعی می‌تواند به راحتی اطلاعات کذب و توصیه‌های خطرناک بین ما منتشر کند.
یک تحقیق نشان می‌دهد که مردم بیشتر اطلاعات کذب تولید شده توسط هوش مصنوعی را باور می‌کنند تا مطالب نادرستی که توسط انسان‌ها ممکن است تولید و منتشر شده باشند.
انتهای پیام/