Модели ИИ и люди по-разному понимают человеческое доверие.

Ученые из Иерусалимского университета показали, что современные нейронные сети не только обрабатывают данные, но и формируют собственные суждения о людях, подобно человеческому доверию.
В исследовании приняли участие более 1000 человек, принимавших решения в типичных ситуациях: сколько денег одолжить владельцу малого бизнеса, доверять ли няне, как оценить начальника или сколько пожертвовать основателю некоммерческой организации.
Параллельно ученые попросили модели ИИ, такие как ChatGPT и Google Gemini, принимать решения в аналогичных ситуациях. После этого ученые сравнили поведение людей и моделей. Оказалось, что и люди, и модели отдавали предпочтение тем персонажам в сценариях, которые казались компетентными, честными и доброжелательными, но представление о доверии между людьми и ИИ было очень разным.
Если человек воспринимает личность целостно и интуитивно, то машина «разлагает» ее на компоненты, как столбцы в таблице. Такой подход делает суждения системы более жесткими и лишенными гибкости, присущей человеческому восприятию. Авторы работы были особенно обеспокоены систематическими искажениями. ИИ склонен проявлять предвзятость по отношению к возрасту, религии или полу, даже если другие данные идентичны. В то же время разные модели могут давать противоположные вердикты в одной и той же ситуации. Это означает, что выбор конкретного алгоритма для найма сотрудников или выдачи кредитов может радикально изменить судьбу человека.
Соавтор Валерия Лерман подчеркивает принципиальное различие между ИИ и человеческим «доверием»: «Люди проявляют честность и интуицию в том, как они судят других. ИИ действует более чисто и систематично, и это может привести к совершенно другим результатам».
Ученые обращают внимание на то, что ИИ уже превратился из помощника в полноценного эксперта в медицине, финансах и рекрутинге. Мы должны понимать, что, копируя структуру нашего доверия, машины лишены нюансов человеческого мышления, а их «объективность» часто скрывает укоренившиеся и жесткие стереотипы. Ответ на вопрос о том, можно ли доверять ИИ, также зависит от того, понимаем ли мы, как он сам понимает, что доверяет нам.

- сразу в цитатник  [x]
- редактировать  

Понравилось? Поделись с друзьями: