Uber AV инцидента подчертава различията в очакванията за AI

Senators, Governors, Businessmen, Socialist Philosopher (1950s Interviews) (Юли 2019).

$config[ads_text] not found
Anonim

Фатално произшествие, при което автономно превозно средство Uber в автоматичен режим удря и убива пешеходец, показва, че очакванията за AI са надути

От Ричард Куинъл, главен редактор

Преди няколко дни бяха реализирани най-лошите страхове от автономната технология за превозни средства (AV). Един AV, който Убер тестваше по улиците на Темпе, Аризона, ударил и убил пешеходец. Тази инцидент все още се разследва, затова е твърде рано да се разбере какво точно се е случило и защо нито AI, нито човекът, който е резервирал сигурността, са предотвратили сблъсъка. Но едно нещо е ясно: Очакванията за това, което ИИ може и трябва да направи, са на картата.

Предпоставката, стояща зад изследванията на AV, е, че при AI насочващи превозни средства нивата на злополуки ще намалеят драстично, спасявайки живота и че технологията се е развила до такава степен, че тестването в реалния живот е подходящо. Опозицията не желае да толерира аудио-визуални апарати на обществени пътища, докато изчерпателното тестване не покаже, че ИИ ще се справи с всички възможни ситуации много по-добре от най-добрия човешки водач (и дори тогава, вероятно няма да им се довери на хората). Тази злополука изглежда поставя на съмнение едната гледна точка, като подкрепя другата и определено е подхранвала дебата.

В момента Uber правилно е спрял всичките си тестови полеви полета. След като приключи разследването, обаче, и пълно разбиране на случилото се и защо се стигне до него, какви следва да бъдат следващите стъпки? Will Uber и други ще продължат тестовете на терен, както преди? Ще искат ли законодателите и обществеността допълнителни ограничения и разпоредби, които да бъдат въведени, за да се подобри обществената безопасност и да се изискват по-нататъшни тестове за офроуд, преди да се допусне по-нататъшно тестване на терен по обществените пътища? Или цялата концепция за AVs просто ще бъде отложена?

Това са трудни въпроси за отговор, а отговорите отчасти ще зависят от резултатите от разследването. Имаше ли недостатък в системата на ИИ, който я накара да не види опасност, която хората щяха да видят, или е нещо, което дори и най-добрият шофьор не би могъл да предотврати? Ако можеше да бъде предотвратено от хората, защо не го направи шофьорът на безопасността?

Ако AI се провали, най-малкото тестването на полеви AV трябва да бъде спряно, докато подобренията AI и / или сензорите се справят с това и подобни ситуации са направени и щателно тествани в условия, при които обществеността не е изложена на риск, до общественото поле. И ако човешкият оператор може, но не е предотвратил злополуката, тогава целият подход към тестването с човешки гръб трябва да бъде преосмислен.

Но какво ще стане, ако разследването стигне до заключението, че дори и един добър човек, който се движи в конвенционален автомобил, не би могъл да избегне инцидента? Как решаваме да продължим с публичното тестване на място? Има ли дори приемливо ниво на риск, че могат да възникнат повече такива инциденти?

Uber има 24 000 от тези XC90 автомобили със самостоятелно управление от Volvo по поръчка. Източник на изображението: Uber.

Преди обществото да може ефективно да се занимава с тези въпроси, трябва да обърне внимание на различията в начина, по който се възприемат АВ. Първото нещо, което трябва да осъзнаете, е, че съществуващият риск от шофиране при хора не е незначителен. Според статистическите данни, предоставени от Националния съвет за безопасност, в САЩ са имали повече от 40 000 смъртни случая на моторни превозни средства през 2017 г. и 4.57 млн. Наранявания, достатъчно сериозни за хоспитализация. Това са номерата, които поддръжниците очакват AVs драматично да намалят.

Следващата точка, която трябва да обмислите, е, че нищо, направено от хората (включително другите хора), е идеално. Тези, които искат да блокират публичното тестване на AV, докато се докаже, че са безупречни, по същество казват "никога" за цялата идея на машинно управлявани превозни средства. Също така, онези, които мислят, че AVs един ден ще премахнат всички произшествия, са наивни. Един перфектен AV свободен от злополуки никога няма да съществува.

От друга страна, едно предимство, което машините имат над хората, е, че те могат да бъдат принудени да се държат по същия начин при същите обстоятелства. Няма его, пътна ярост, изтощение, отвличане на вниманието, заболяване, безразличие, бързина, паника или липса на опит да се сблъскате. Освен това, когато възникнат злополуки, има възможност да се учи от тях как да се подобри функционирането на всички аудиовизуални апарати, да се осъществи това подобрение и да се даде трайно въздействие върху тяхното представяне.

Трето нещо, което трябва да разберете, е, че в някакъв момент публичното полево тестване трябва да се осъществи преди AV да бъдат обявени за приемливи. Просто не е възможно да се предвидят всички обстоятелства, които ще възникнат в хода на операцията на AV. Можем да предсказваме, имитираме и да изпробваме много, може би дори повечето, възможни сценарии, но не всички. Още повече, дори при сценарии, които можем да предвидим, тестът, провеждан при контролирани условия, не е перфектен предсказващ резултат за полета. Старият военен признава, че боен план никога не преживява първи контакт с врага, се прилага също така и за тестване на системата. Полевата среда винаги е по-бърза от лабораторията.

Така че ако тестването на място е необходима стъпка и ако бъде взето, е сигурно, че в крайна сметка ще доведе до неуспех (и вероятно до друг фатален изход), тогава как да решим кога и как да продължим оттук? Какво е приемливо ниво на риск, когато може да бъде заложен живота на случаен човек и кой взема това решение? Както е попитал EE Times, Is Robocar Death цената на напредъка? Като алтернатива, искаме ли да изоставим АВ и да продължим със сегашните нива на смърт на хора, причиняващи шофьори? Това са въпроси, от които се нуждаем, за да отговорим колективно.

Гласуването ми е за многофазен процес, който напредва. Научете колкото е възможно повече за тази злополука и прилагайте начини за намаляване или премахване на повторението. Изпробвайте широко AV, непрекъснато усвоявайки и подобрявайки тяхната работа. Тествайте първо в частично ограничена среда, като градска среда, където се изпълняват само аудиовизуални апаратури, а пешеходците са наясно и приемат риска от взаимодействие с тях. Демонстрирайте, че аудиосигналите надвишават човешките шофьори с няколко километра, задвижвани от произшествие във всеки сценарий, преди да разширят полевото тестване до по-отворени условия.

Лично аз се радвам на дните на широко разпространените AV доминиращи или дори изключително популации на пътя. Видях твърде много шофьори, които са неквалифицирани, незнайни, обезценени, безотговорни, прекалено уверени, зависими от риска или его или гняв, за да се надяват, че можем значително да намалим смъртността, която причиняват човешките шофьори. Имам много по-големи надежди за ерата на автономното превозно средство.

Какво е вашето мнение?

От Ричард Куинъл