Мисленето
Враждебността към алгоритмите
Изтегляне 3.52 Mb.
|
Свързани:
Групова динамика
Враждебността към алгоритмитеОт самото начало клиничните психолози реагират на идеите на Мийлс враждебност и недоверие. Ясно е, че са в плен на илюзията за умения, що се отнася до способността им да правят дългосрочни предсказания. Като си помисля, лесно е да се види как е възникнала тази илюзия и е лесно да разберем отхвърлянето на изследването на Мийл от страна на клиницистите. Статистическите данни за по-лошата работа на клиницистите противоречи на техния всекидневен опит относно качеството на оценките им. Психолозите, които работят с пациенти, са имали много предчувствия по време на всяка терапия. Те са предусещали как ще реагира пациентът на дадена интервенция, предполагали са какво ще се случи по-нататък. Много от тези предчувствия са се потвърждавали, илюстрирайки реалността на клиничните умения. Проблемът е, че верните оценки включват краткосрочни прогнози в контекста на терапевтичното интервю, умение, в което терапевтите могат да имат години практика. Задачите, в които те се провалят, в типичния случай изискват дългосрочни прогнози за бъдещето на пациентите. Те са много по-трудни, дори и най-добрите формули се справят само умерено добре и освен това те са задачи, които клиницистите никога не са имали възможността да изучат както трябва – би трябвало да чакат години за обратна връзка, вместо да получат моменталната обратна връзка на клиничната терапия. Обаче линията между онова, което клиницистите могат да вършат добре, и онова, което изобщо не могат да свършат добре, не е очевидна и определено не е очевидна за тях. Те знаят, че притежават умения, но не знаят непременно, че техните умения имат граници. Тогава не е изненадващо, че идеята, че механичната комбинация от няколко променливи може да победи деликатната комплексност на човешката оценка изглежда на опитните клиницисти очевидно погрешна. Дебатът за качествата на клиничната и статистическата прогноза винаги е имал етично измерение. Статистическият метод, както пише Мийл, се критикува от опитните клиницисти, които го определят като „механичен, несвързан, кумулативен, откъснат и сух, изкуствен, нереален, произволен, непълен, мъртъв, педантичен, откъслечен, тривиален, насилен, статичен, повърхностен, закостенял, стерилен, академичен, лъженаучен и сляп“. Клиничният метод, от друга страна, бива хвален от поддръжниците му, че е „динамичен, глобален, смислен, холистичен, деликатен, базиращ се на съчувствие, релефен, структуриран, организиран, богат, дълбок, истински, чувствителен, сложен, реален, жив, конкретен, естествен, верен на живота и разбиращ“. Това е нагласа, която разпознаваме всички. Когато човек се конкурира с машина, независимо дали става дума за състезавалия се с парен чук Джон Хенри, или за гения на шахмата Гари Каспаров, изправил се срещу компютъра „Дийп Блу“, симпатиите ни са на страната на нашите събратя, човеците. Отвращението от алгоритмите, вземащи решения, които въздействат на хората, се корени в силното предпочитание, което много хора изпитват към естествените неща пред синтетичните или пред изкуствените. Когато бъдат попитани дали биха предпочели да изядат една органична или една отгледана за търговски цели ябълка, повечето хора предпочитат „напълно естествената“. Дори след като са информирани, че двете ябълки имат еднакъв вкус, притежават една и съща хранителна стойност и са еднакво полезни за здравето, мнозинството пак предпочита органичния плод.228 Дори производителите на бира са открили, че могат да увеличат продажбите си, като напишат на етикета „напълно естествена“ или „без консерванти“. Дълбоката съпротива срещу демистификацията на експертизата се илюстрира от реакцията на европейската винарска общност спрямо формулата на Ашънфелтър за предсказване цената на вината бордо. Формулата на Ашънфелтър сбъдва една мечта: следователно човек би могъл да очаква любителите на виното по света да му бъдат благодарни, че явно подобрява способността им да идентифицират вината, които по-късно ще бъдат добри. Обаче не става така. Реакцията сред френските винарски среди, както пише „Ню Йорк Таймс“, е „някъде между агресията и истерията“. Ашънфелтър съобщава, че един познавач на виното нарекъл откритията му „нелепи и абсурдни“. Друг го подиграл: „Това е все едно да оценяваш филми, без реално да ги гледаш.“ Предубеждението срещу алгоритмите нараства, когато решенията са важни. Мийл отбелязва: „Не зная точно как да облекча ужаса, който, изглежда, някои клиницисти изпитват, когато се изправят пред лечим случай, на който се отказва лечение, защото едно „сляпо, механично“ уравнение го класифицира погрешно.“ За разлика от това Мийл и другите привърженици на алгоритмите страстно утвърждават, че е неетично да се разчита на интуитивните оценки за важни решения, ако е достъпен алгоритъм, който ще прави по-малко грешки. Техният рационален аргумент е убедителен, но противоречи на упоритата психологическа реалност: за повечето хора мотивът за грешката е от значение. Историята на едно дете, което умира, защото някакъв алгоритъм е направил грешка, е по-затрогваща от същата история, случваща се в резултат на човешка грешка, и разликата в емоционалната интензивност лесно се превръща в етично предпочитание. За щастие враждебността срещу алгоритмите вероятно ще намалее, тъй като тяхната роля във всекидневния живот продължава да нараства. Когато търсим книги или музика, може би ни е приятно и оценяваме препоръките, генерирани от софтуер. Приемаме за даденост, че решенията за кредитни лимити се вземат без пряка намеса на човешка оценка. Все по-често се ръководим от принципи, които имат формата на прости алгоритми, като например съотношението в нивата на добрия и лошия холестерол229, което се стремим на постигнем. Сега обществото добре съзнава, че формулите могат да се справят по-добре от хората в някои критични решения в света на спорта: например колко би трябвало да плати един професионален отбор за определени играчи новаци. Разширяващият се списък със задачи, които се възлагат на алгоритми, би трябвало да намали неудобството, което изпитват хората, когато за пръв път се изправят пред модела на резултатите, описани от Мийл в неговата смущаваща малка книжка. Изтегляне 3.52 Mb. Сподели с приятели:
|