خطرات و مزایای هوش مصنوعی چیست؟ - وبلاگ بلاگ پو

به گزارش وبلاگ بلاگ پو، انتظار می رود دنیا تا سال 2030 شاهد رشد 15.7 تریلیون دلاری فراوری ناخالص داخلی مبتنی بر هوش مصنوعی باشد.

هوش مصنوعی به طور معمول با پیشرفت فناوری و نرم افزار مربوط می گردد. انتظار می رود دنیا تا سال 2030 شاهد رشد 15.7 تریلیون دلاری فراوری ناخالص داخلی مبتنی بر هوش مصنوعی باشد. کاربرد های هوش مصنوعی در سازمان ها و صنایع همچنان در حال رشد است. با افزایش مزایای سیستم های هوش مصنوعی، خطرات مرتبط با این ابزار ها افزایش می یابد، این خطرات چیست؟ آیا مزایای هوش مصنوعی بیشتر از خطرات آن است؟ در اینجا به این سوالات پاسخ داده شده است:

خطرات هوش مصنوعی چیست؟

هوش مصنوعی خطرات بالقوه زیادی دارد، با توسعه و توسعه قابلیت های هوش مصنوعی، خطرات مرتبط با آن افزایش می یاد. در اینجا پنج خطر فراگیر هوش مصنوعی آورده شده است.

1. عدم قابلیت ردیابی پیاده سازی هوش مصنوعی

از منظر مدیریت ریسک، ما اغلب با فهرستی از سیستم ها و مدل هایی که شامل هوش مصنوعی هستند آغاز می کنیم و استفاده از حوزه ریسک به ما امکان می دهد خطرات هوش مصنوعی را ردیابی، ارزیابی، اولویت بندی و کنترل کنیم.

متأسفانه محبوبیت روزافزون این فناوری به طور کلی به این معنی است که به طور فزاینده ای خارج از حیطه اختیارات تیم رسمی IT پیاده سازی می گردد و مطالعه ای به وسیله McAfee بیان می نماید که 80 ٪ از کارمندان سازمانی از برنامه های بدون گواهی SaaS (نرم افزار به عنوان سرویس) در محل کار استفاده می نمایند.

2. وارد شدن سوگیری برنامه ای در تصمیم گیری

یکی از مخرب ترین خطرات هوش مصنوعی وارد کردن سوگیری به الگوریتم های تصمیم گیری آن است. سیستم های هوش مصنوعی از مجموعه داده هایی که بر اساس آن ها آموزش دیده اند یاد می گیرند. بسته به نحوه وقوع این تجمیع، این احتمال وجود دارد که مجموعه داده ها ممکن است مفروضات را منعکس کند. این سوگیری ها می توانند بر فرآیند تصمیم گیری در سیستم تأثیر بگذارند.

3. منابع داده و نقض حریم خصوصی

با پیش بینی شرکت بین المللی داده که دامنه داده های دنیای از 33 تریلیون گیگابایت در سال 2018 به 175 گیگابایت تا سال 2025 افزایش خواهد یافت، حجم عظیمی از داده های ساختاریافته و بدون ساختار در اختیار شرکت ها قرار می گیرد تا آن ها را استخراج و پردازش نمایند.

4. الگوریتم های جعبه سیاه و عدم شفافیت

هدف اصلی بسیاری از سیستم های هوش مصنوعی پیش بینی است و به همین علت الگوریتم ها می توانند آنقدر پیچیده باشند که حتی کسانی که الگوریتم را ایجاد نموده اند نمی توانند شرح دهند که چگونه متغیر ها با هم ترکیب می شوند و به پیش بینی منتج می رسند، و همین عدم شفافیت علت بعضی از مراجع است.

5. مسئولیت قانونی معین نیست

با توجه به خطرات بالقوه هوش مصنوعی که تا به امروز مورد بحث نهاده شد، این نگرانی ها منجر به پرسش مسئولیت قانونی می گردد. اگر یک سیستم هوش مصنوعی با الگوریتم های فازی طراحی شده باشد و یادگیری ماشینی اجازه می دهد تا تصمیم گیری خود را بهبود بخشد، چه کسی از نظر قانونی مسئول نتیجه است؟ این خطر تئوری نیست، در سال 2018 یک خودروی خودران با یک عابر پیاده برخورد کرد و جان خود را از دست داد، در این مورد راننده پشتیبان انسانی خودرو توجهی ننموده و در هنگام از کار افتادن سیستم هوش مصنوعی مسئول بوده است.

آیا مزایای هوش مصنوعی بیشتر از خطرات آن است؟

خطرات هوش مصنوعی بسیار زیاد است، اما استفاده و رشد این ابزار ها نیز اجتناب ناپذیر است، زیرا مزایای بالایی وجود دارد، به گونه ای که سناریوی تصمیم گیری منصفانه تر می گردد، زمانی که الگوریتم ها برای جلوگیری از سوگیری آموزش داده می شوند، در حالی که درک ما را از این دیدگاه افزایش می دهند. بعضی از نکات مهم در خصوص هوش مصنوعی عبارتند از:

سیستم های هوش مصنوعی باید شامل اسناد طراحی واضح باشند.

یادگیری ماشینی باید شامل تست و بهینه سازی باشد.

کنترل و حاکمیت هوش مصنوعی باید بر الگوریتم ها و کارایی اولویت داشته باشد.

منبع: الیوم السابع

وبلاگ بلاگ پو علمی پزشکی فناوری