نگرانی از حباب هوش مصنوعی با هشدار درباره تهدیدهای وجودی در سنگاپور شدت گرفت

نگرانی درباره ریسک های مالی و حتی تهدیدهای وجودی ناشی از رونق هوش مصنوعی، روز چهارشنبه در دو نشست مهم در سنگاپور به موضوع اصلی بحث میان سرمایه گذاران و سیاستگذاران تبدیل شد. این شرایط نشان می دهد نگاه فعالان بازار به سرمایه گذاری در حوزه هوش مصنوعی نسبت به گذشته محتاطانه تر شده است.

در حالی که نگرانی های اولیه بیشتر حول ارزش گذاری های بیش از حد شرکت های فناوری متمرکز بود، دامنه این نگرانی ها اکنون گسترده تر شده است. احتمال خارج شدن سیستم های خودمختار از کنترل انسان، طراحی سلاح های بیولوژیکی با کمک هوش مصنوعی و این احتمال که هزینه های عظیم سرمایه گذاری در این فناوری هرگز بازده مورد انتظار را ایجاد نکند، از جمله نگرانی های جدید هستند.

هشدار درباره از دست رفتن کنترل بر عامل های هوش مصنوعی

ویویان بالاکریشنان، وزیر امور خارجه سنگاپور، در نشست موسسه Milken در آسیا گفت کنترل سیستم های خودمختار یک تهدید واقعی است.

او هشدار داد افرادی که ادعا می کنند کنترل کاملی بر یک عامل خودمختار دارند، احتمالا درک درستی از نحوه عملکرد چنین سیستم هایی ندارند و خطر از دست رفتن کنترل را نمی توان نادیده گرفت.

این هشدار در شرایطی مطرح شده است که ماه گذشته مدیران برخی از بزرگ ترین آزمایشگاه های هوش مصنوعی آمریکا در اقدامی کم سابقه خواستار کاهش سرعت توسعه این فناوری شدند. آنها هشدار داده اند که سیستم های هوش مصنوعی ممکن است در آینده توانایی بهبود عملکرد خود را پیدا کنند و از کنترل انسان خارج شوند.

نگرانی از استفاده نظامی و بیولوژیکی از AI

بالاکریشنان همچنین درباره استفاده بازیگران دولتی و غیردولتی از هوش مصنوعی برای ساخت سلاح های جدید هشدار داد. به گفته او، این فناوری می تواند در حوزه هایی مانند شیمی، زیست شناسی و حتی سلاح های کشتار جمعی مورد سوءاستفاده قرار گیرد.

کیران مازومدار-شا، بنیانگذار و رئیس شرکت دارویی Biocon هند، نیز گفت هوش مصنوعی می تواند نیرویی مثبت برای جامعه باشد، اما بازیگران مخرب ممکن است از آن برای طراحی ویروس ها یا عوامل بیماری زای جدید استفاده کنند.

او با اشاره به خطر بیوتروریسم، خواستار ایجاد سازوکارهای نظارتی و محدودیت های مشخص برای هوش مصنوعی شد و تاکید کرد که نمی توان صرفا به خودتنظیمی شرکت های فعال در این حوزه متکی بود.

نگرانی درباره حباب سرمایه گذاری هوش مصنوعی همچنان ادامه دارد

در کنار نگرانی های امنیتی و وجودی، سرمایه گذاران همچنان درباره دوام رونق بازار هوش مصنوعی نیز تردید دارند. سرمایه گذاری های گسترده در این حوزه طی سال های اخیر به رشد ارزش سهام شرکت های فناوری کمک کرده است، اما افزایش هزینه های انرژی و نوسانات بازار اوراق قرضه، هزینه تامین مالی را در اقتصادهای بزرگ افزایش داده است.

روهیت سیپاهی‌مالانی، مدیر ارشد سرمایه گذاری شرکت سرمایه گذاری دولتی Temasek سنگاپور، گفت اگر روایت فعلی درباره هوش مصنوعی به دلیل مسائل ایمنی، مقررات جدید یا عدم مشاهده بازده سرمایه گذاری کافی توسط کاربران در سال ۲۰۲۷ تضعیف شود، بازارها ممکن است با مشکلات جدی مواجه شوند.

او تاکید کرد که در شرایط فعلی، بزرگ ترین ریسک برای بازار همچنان همان روایت و انتظارات پیرامون هوش مصنوعی است؛ روایتی که فعلا بسیار قدرتمند به نظر می رسد.

ری دالیو: بازار هوش مصنوعی در یک حباب کلاسیک قرار دارد

ری دالیو، بنیانگذار Bridgewater Associates، دیدگاه محتاطانه تری نسبت به آینده بازار دارد. او در نشست Forbes Global CEO Conference گفت بازار هوش مصنوعی در یک «حباب کلاسیک» قرار گرفته است.

دالیو تاکید کرد که میان فوق العاده بودن یک فناوری و فوق العاده بودن آن به عنوان یک سرمایه گذاری تفاوت وجود دارد. به گفته او، افزایش نرخ بهره و تغییر شرایط اقتصادی هنوز تاثیر منفی گسترده ای بر سایر بازارها نگذاشته است، اما فشار برای افزایش بیشتر نرخ بهره وجود دارد.

او معتقد است زمانی که نرخ های بهره بالاتر اثر خود را به شکل جدی تری نشان دهند، حباب بازار می تواند شروع به ترکیدن کند و به گفته او، بازار احتمالا به این نقطه نزدیک شده است.

بازده سرمایه گذاری؛ آزمون بزرگ هوش مصنوعی در سال ۲۰۲۷

سرمایه گذاری های عظیم انجام شده در زیرساخت های هوش مصنوعی، مراکز داده، تراشه ها و مدل های پیشرفته باعث شده است انتظارات بسیار بالایی درباره رشد آینده این صنعت شکل بگیرد. اما پرسش اصلی سرمایه گذاران اکنون این است که آیا استفاده واقعی از هوش مصنوعی می تواند بازدهی متناسب با این حجم از سرمایه گذاری ایجاد کند یا خیر.

اگر کاربران و شرکت ها در سال های آینده نتوانند بازده سرمایه گذاری مورد انتظار خود را از هوش مصنوعی به دست آورند، ممکن است بخشی از سرمایه گذاری ها و ارزش گذاری های فعلی زیر سوال برود. در چنین شرایطی، ترکیب نگرانی های مربوط به ایمنی، مقررات و بازده اقتصادی می تواند فشار قابل توجهی بر بازار هوش مصنوعی وارد کند.

بحث های مطرح شده در سنگاپور نشان می دهد نگرانی درباره هوش مصنوعی دیگر فقط به قیمت سهام شرکت های فناوری یا احتمال شکل گیری یک حباب مالی محدود نیست. سرمایه گذاران و سیاستگذاران اکنون همزمان درباره کنترل سیستم های خودمختار، سوءاستفاده های بیولوژیکی و نظامی، مقررات و توانایی این صنعت برای ایجاد بازده اقتصادی واقعی در مقیاس مورد انتظار بحث می کنند.