
ساتیا نادلا هشدار داده که نرمافزارهای هوشمند آینده شاید بتوانند تبعیض قایل شوند. در واقع الگوریتمهای جانبدارانه از همین حالا هم روی زندگی ما تاثیر میگذراند.
ساتیا نادلا، مدیر عامل مایکروسافت دربارهی سلطهی هوش مصنوعی بر زندگی ما ابراز نگرانی کرده است. او اخیرا به فعالان حوزهی صنعت کامپیوتر توصیه کرده که به فکر طراحی نرمافزارهای هوشمندی باشند که به انسانها احترام میگذارند. او در مجلهی اینترنتی Slate نوشته: «حوزهی تکنولوژی نباید ارزشها و فضیلتهای آیندهی هوش مصنوعی را تحمیل کند.»
نادلا میگوید نرمافزار هوشمند باید طوری طراحی شود که بتوانیم در نحوهی ساز و کارش بازبینی کنیم و اجازه ندهیم علیه بعضی از افراد تبعیض قایل شود یا به شکل ناپسندی دادههای شخصی استفاده کند.
این نگرانیها مهم و منطقی هستند، اما رهبران حوزهی تکنولوژی مدتهاست که دربارهی آنها صحبت میکنند. شواهد زیادی وجود دارد که نشان میدهد از همین حالا الگوریتمها و نرمافزارها با جانبداریها نگرانکنندهای به زندگی روزمرهی ما شکل میدهند.
کمیسیون تجارت فدرال در تحقیقاتی که انجام داده، پی برده که تبعیضات نژادی و اقتصادی دوران قبل از اینترنت دوباره ظاهر شدهاند و آن را در سیستمهایی میبینیم که تبلیغات هدفمند و دیگر خدماتی آنلاین را مدیریت میکنند. در ایالت ویسکانسین آمریکا میخواهند به کمک سیستم پیشبینی کنند که آیا یک مجرم باز هم مرتکب جرم میشود یا خیر؛ دادگاه با استفاده از نتایج این سیستم حکم زندان مجرم را تعیین میکند.
بدیهی است بعضی از مشکلاتی که ساتیا نادلا را نگران کرده، هماکنون وجود دارند. «کیت کرافورد»، یکی از محققان مایکروسافت مشکل جانبداری الگوریتمی را در یک جمله خلاصه کرده است: «شاید نرمافزار از همین حالا نابرابری را در محل کار، خانه و سیستمهای قانونی و قضایی شدیدتر میکند.»
نادلا نوشتهاش دربارهی هوش مصنوعی را اینگونه جمعبندی میکند: «مهمترین قدم بعدی ما برای هوش مصنوعی این است که یک چارچوب اخلاقی و همدلانه برای طراحی آن تعریف کنیم.»
منبع: MIT Technology Review

ذهن ماشینها معمولا با عنوان جعبهی سیاه توصیف میشود. فرایندهای تصمیمگیری آنها مرموز و غیر قابل درک است. اما در مورد هوش ماشینی قضیه فرق میکند. محققان میخواهند آن جعبهی سیاه را بگشایند و نگاهی به درون آن بیندازند. آنچه که آنها پی بردهاند این است که انسانها و ماشینها وقتی به تصاویر نگاه میکنند، اصلا به چیزهای مشابهی توجه نمیکنند.
محققان فیسبوک و دانشگاه پلیتکنیک ویرجینیا تصاویری را به انسانها و ماشینها نشان دادند و سپس از آنها سوالات سادهای بر اساس آن عکسها پرسیدند. اما پاسخ این سوالات برای محققان اهمیت نداشت. آنها میخواستند نقشهای از نکات مورد توجه انسان و هوش مصنوعی تهیه کنند تا دربارهی تفاوتهای ما با آنها اطلاعاتی به دست بیاورند.
«لارنس زیتنیک»، از مرکز تحقیقات هوش مصنوعی فیسبوک میگوید: «ما میتوانیم این نقشههای توجه را در انسانها و ماشینها بررسی کنیم.» زیتنیک و همکارانش از انسانها خواستند تا به سوالات سادهای مثل «آن مرد چه کار میکند؟» یا «چند گربه روی تخت دراز کشیدهاند» پاسخ دهند. این تصاویر کمی تار شده بودند و افراد برای واضح کردن آنها باید روی قسمتهای مختلف عکس کلیک میکردند. نقشهی آن کلیکها نشان میدهد که سوژههای مورد مطالعه به کدام قسمت تصویر توجه میکردند. محققان همین کار را برای دو ماشین مبتنی بر شبکهی عصبی تکرار کردند.
این تیم پی بردند که امتیاز همپوشانی نقشهی توجه در دو انسان ۰.۶۳ بود. در این مقیاس ۱ نمایانگر همپوشانی کامل و منفی یک نشاندهندهی عدم همپوشانی است. همپوشانی میان انسان و هوش مصنوعی هم ۰.۲۶ بود. با این حال، شبکههای عصبی بهتر توانستند بفهمند که تصویر چه چیزی را نشان میدهد.
«دروف باترا» از دانشگاه ویرجینیا میگوید «موارد و نکات مورد توجه ماشینها با انسانها فرق دارد. این نشان میدهد که ما نمیدانیم آنها بر چه مبنایی تصمیم میگیرند.» این اختلاف بین انسان و ماشین میتواند منبع الهامبخش و مفیدی برای محققان باشد تا شبکههای عصبی را تغییر دهند. باترا میپرسد: «آیا میتوانیم آنها را به انسانها شبیهتر کنیم؟ آیا این به معنی دقت بیشتر است؟»
منبع: New Scientist
محققان دانشگاه هاروارد یک سایبورگ لقمهماهی (شبیه به سفرهماهی اما کوچکتر) ساختهاند که میتوان زیر آب با استفاده از نور آن را کنترل کرد.
این ربات نرم که توسط «کوین کیت پارکر» از دانشگاه هاروارد ساخته شده، ۱۶ میلیمتر طول دارد. محققان در بدنهی آن از اسکلتی با جنس طلا استفاده شده و روی آن را با پلیمری انعطافپذیر پوشاندهاند. ماهیچههای این سایبورگ از ۲۰۰ هزار سلول قلب موش تشکیل شدهاند که به صورت لایهی روی هم قرار داده شدهاند. پارکر میگوید: «چیزی که من ساختهام یک موجود زنده است.»
این تیم برای حرکت دادن این ربات کوچک، ژنهای سلول موش را طوری دستکاری کردند که نسبت به نور حساس شوند. وقتی این سلولها در معرض نور قرار میگیرند، منقبض شده و لایهها مثل نوعی پمپ عمل میکنند و اسکلت را به سمت پایین هل میدهند. به این طریق، این ربات کوچک از حرکات یک لقمهماهی واقعی تقلید میکند.
تابش فرکانسهای خاصی از نور روی این ربات، موجی از انقباضها را ایجاد میکند که در طول بدن آن گسترده شده و در نتیجه موجدار میشود. اگر محققان فرکانسهای مختلفی را بتابند، این سایبورگ با سرعتهای متفاوتی حرکت میکند. با تابش نور به یک سمت بدناش، این ربات کوچک میتواند دور بزند. محققان با نور این ربات را کنترل کردند و این لقمهماهی مصنوعی با موفقیت توانست از میان موانع شنا کند.

لقمهماهی مصنوعی یک ماشین زنده است، اما پارکر میگوید هنوز با ساخت رباتهای پیچیدهتری که از بافت موجودات زنده ساخته شدهاند، زمان زیادی فاصله داریم. ما تازه یاد گرفتهایم چگونه از سلولهای زنده به عنوان یک ماده استفاده کنیم و این به نوبهی خود یک چالش بزرگ است؛ چون آنها برای زنده ماندن به شرایط خاصی نیاز دارند.
پارکر قبلا هم با استفاده از بافت قلب، یک سایبورگ عروس دریایی ساخته بود، اما طراحی و سیستم کنترل آن بسیار سادهتر از لقمهماهی بودند.
اما هدف اصلی پارکر ساخت رباتهای زنده نیست. بلکه او با ساخت آنها میخواهد نحوهی ساز و کار پمپهای ماهیچهای و ناراحتی قلبی را بهتر بفهمد. پارکر میگوید: «من در اصل به ساخت یک قلب علاقهمند هستم.»
منبع: New Scientist

پنجشنبه شب، در جریان خشونتها و درگیریهای شهر دالاس در تگزاس، پلیس این شهر از یک ربات حامل مواد منفجره استفاده کرد تا یکی از تیراندازان را بکشد. بسیاری از کارشناسان و مجریان قانون معتقدند که این اولین استفادهی پلیس از تکنولوژی رباتیک برای قتل انسان است.
در جریان اعتراض به مرگ دو آفریقایی-آمریکایی به دست پلیس، پنج افسر پلیس کشته و هفت افسر و دو شهروند زخمی شدند. «میکا جانسون»، مرد مظنون به تیراندازی، با مواد منفجرهای که ربات ترکانده بود، کشته شد.
«دیوید براون»، رییس پلیس، در بیانیهای گفته این ربات پس از چند ساعت مذاکره که به هیچ نتیجهای نرسید، اعزام شد. براون گفت: «ما هیچ راه دیگری غیر از استفاده از این ربات مجهز به بمب نداشتیم و دستگاهی روی بازوی رباتیکاش قرار دادیم تا در مکانی که مظنون آنجا حضور داشت، بمب را منفجر کند. راه حلهای دیگر، افسران ما را در معرض خطر زیاد قرار میدادند. فرد مظنون بر اثر انفجار بمب جانش را از دست داد.» فرد مظنون یک سرباز وظیفه سابق ارتش آمریکا و ساکن دالاس بود و هیچ سابقهی کیفری نداشت.
«توبی والش»، یکی از پروفسورهای هوش مصنوعی از دانشگاه «نیو ساوت ولز» هشدار میدهد که نباید چنین استفادهای از این ربات را به عنوان یک سناریوی علمی تخیلی کابوسوار تلقی کنیم، چون این ربات از راه دور توسط یک انسان کنترل میشد. والش میگوید این ربات هیچ تفاوتی با پهپادهای کنترل از راه دوری که در آسمانهای عراق و پاکستان پرواز میکنند، ندارد. در این اتفاق یک انسان نقش اصلی را داشت.
دیگران هم با او همعقیده هستند. «رد ویتاکر»، یک پروفسور رباتیک از دانشگاه «کارنگی ملون»، میگوید: «واقعیت ماجرا این است که این ربات یک ابزار است. رباتها به عنوان یک ابزار، سالها و سالهاست که این قابلیتها را دارند. این دستگاه از دور کنترل میشود و با کشیدن ماشهی یک اسلحه یا پرتاب نارنجک یا هر سلاح دیگری هیچ فرقی ندارد. دستگاه کنترل از را دور چیزی است که میتوانیم حتی در یک فروشگاه ابزارهای سرگرمکننده تهیه کنیم.»
«دیوید کلینگر»، یک کارشناس جرمشناسی از دانشگاه میزوری میگوید رباتها ابزارهای چند کاربردی هستند که صرفا از آنها برای انفجار بمب استفاده نمیشود، بلکه میتوانند در وضعیتهای مختلفی به کار آیند. ماشینهایی مثل ربات دالاس مثل تانکهایی هستند که بازوانشان قابل تعویض است و میتوانند تواناییها و کاربردهای مختلف داشته باشند.
منبع: Scientific American