На состоявшейся конференции Neural Information Processing Systems, специалисты в сфере ИИ сделали очень громкое заявление. Они сообщили о том, что перестали понимать то, каким способом ИИ оценивает ситуацию и исходя из нее принимает решение.
По мнению ведущих специалистов, использовать искусственный интеллект в масштабных проектах, без понимания его работы было бы глупо. Более того, чтобы ИИ стал самостоятельной частью, необходимо полностью изучить его поведение в различных ситуациях.
Очень часто, искусственный разум руководствуется стереотипами, из-за чего принятые решения становятся предвзятыми. Такие ошибки могут очень дорого обойтись. Например, многие ведущие космические компании поговаривали о его внедрении в сложные проекты, типа полета на Марс. Но не зная алгоритма принятия решений, внедрение ИИ может повредить не только дорогостоящее оборудование, но и привести к гибели людей.
Поэтому на данный момент ИИ является далеко не самостоятельным инструментом. Обо всем этом сообщил специалист по искусственному интеллекту из компании Google – Мэтра Рагху.
На конференции Мэтра подготовила доклад, в котором подробно описала результаты своего исследования. Она рассказала, что изучала действия локальных частей нейросети. Проводя их анализ ей удалось заметить «правильные» и «неправильные» участки ИИ. Также, она пояснила, что приблизительно поняла логику ИИ и знает, как внести в нее коррективы.
Результаты работы Мэтры Рагху на лицо. После долгого анализа миллиона операций, ей удалось найти «неправильные» нейроны, которые принимали ошибочные решения. Их корректировка привела к тому, что искусственный интеллект начал лучше оценивать ситуацию и делать правильные выводы.
Но все же, как говорит Мэтра, ее результаты - это только начало. Для улучшения работы ИИ понадобится время.
Анализируя все слова специалистов можно понять, что логика принятий решений ИИ не такая уж и сложная. Важно лишь одно, не допустить ошибки и не сделать «сырой материал» самостоятельным. Ведь любая мелкая ошибка может привести к непоправимым результатам, которые потом будет очень сложно исправить.
