Туманности нейросетей: "черные ящики" технологий и наглядные уроки непрозрачности алгоритмов
Общая характеристика акторно-сетевой теории Бруно Латура. Анализ современных технологий, моделирующих искусственный интеллект на основе знания нейронаук. Рассмотрение особенностей искусственного интеллекта, используемого в современных "умных" технологиях.
| Рубрика | Социология и обществознание |
| Вид | статья |
| Язык | русский |
| Дата добавления | 01.12.2021 |
| Размер файла | 1,9 M |
Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже
Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.
Заключение
Подведем итог дискуссии, которую можно и нужно продолжить.
С одной стороны, задачей этой работы было показать, что нестро- 178 гие алгоритмы в форме искусственных нейросетей, проходящих глубокое обучение, наглядно подтверждают то, что STS пытались доказать на примере других, менее замысловатых технологий. С середины 1980-х они стремились убедить специалистов и широкую публику, что машины, хотя и являются полностью сделанными человеком, содержат в себе непрозрачность, неопределенность и могут удивлять своих создателей. Сегодня же то, что еще каких-то 10 лет назад было смелым и неочевидным теоретическим тезисом, проговаривается официальными лицами Netflix, которые удивляются поведению своих алгоритмов генерирования микрожанров кино [Madrigal, 2014]. Самообучающиеся нейросети, служащие мозгом многих современных умных устройств, делают образ «призрака в машине» обыденным.
С другой стороны, эмпирические реалии и научные дискуссии вокруг технологий на базе нейросетей, в частности, и алгоритмов машинного обучения вообще показывают, что центральный для STS троп раскрытия «черных ящиков» изменил свое значение. Изначально он был связан с двойной критической операцией: переключением внимания с наблюдаемых эффектов технологии на условия ее возможности и приоритизацией этих условий возможности перед остальными конституентами технологии. Понятый в русле старой критики, этот троп имел амбивалентные последствия как в социально-политическом, так и в методологическом плане. В частности, сравнительно быстро стало понятно, что социально-конструктивистское раскрытие «черных ящиков» склонно представлять технологию как нейтральную и прозрачную, как и другие неконструктивистские решения. Попытки схватить «плотность» и непрозрачность технологий нашли выражения в различных концепциях со-производства технологии и общества.
Вероятно, дальше всех в этом направлении продвинулась ак- торно-сетевая теория и Бруно Латур, предложивший переориентацию критики. Эта переориентация включает в себя два компонента: 1) понимание технологии как общества, ассоциации, собрания, ассамбляжа, вещи, где ни один из конституентов не приоритизируется; 2) понимание технологии как непрозрачной и преподносящей сюрпризы даже своим создателям. В результате троп раскрытия «черных ящиков» теперь указывает на социально-политические и методологические ограничения старой критической установки в понимании и управлении новыми технологиями.
Библиография / References
1. Каллон М. (2015) Некоторые элементы социологии перевода: одомашнива¬ние морских гребешков и рыбаков залива Сен-Бриё. Социология власти, 27 (1): 196-231.
2. Callon M. (2015) Some Elements of a Sociology of Translation: Domestication of the Scallops and the Fishermen of St Brieuc Bay. Sociology of Power, 27 (1): 196¬231. -- in Russ.
3. Кузнецов А.Г. (2015) Латур и его «технолог»: вещи, объекты и технологии в актор- но-сетевой теории. Социология власти, 27 (1): 55-89.
4. Kuznetsov A.G. (2015) Latour and His "Technologist”: Things, Objects, and Technologies in Actor-Network Theory. Sociology of Power, 27 (1): 55-89. -- in Russ.
5. Латур Б., Вулгар С. (2012) Лабораторная жизнь. Конструирование научных фактов. Глава 2. Антрополог посещает лабораторию. Социология власти, 6-7: 178-234.
6. Latour B. (2012) Laboratory Life. Chapter 2. An Anthropologist Visits the Laboratory. Sociology of Power, 6-7: 178-234. -- in Russ.
7. Латур Б. (2006) Об интеробъективности. В.С. Вахштайн (ред.) Социология вещей, М.: Изд. дом «Территория будущего»: 169-199.
8. Latour B. (2006) On Interobjectivity. V.S. Vakhshtayn (ed.) Sociology of Things, M.: Territory of the Future: 169-199. -- in Russ.
9. Латур Б. (2013) Наука в действии: следуя за учеными и инженерами внутри общества, СПб.: Изд-во Европейского ун-та в С.-Петербурге.
10. Latour B. (2013) Science in Action: How to Follow Scientists and Engineers Through Society, SPb.: EUSP. -- in Russ.
11. Латур Б. (2014) Пересборка социального: введение в акторно-сетевую теорию, М.: ИД ВШЭ.
12. Latour B. (2014) Reassembling the Social: An Introduction to Actor-Network-Theory,
13. M.: HSE. -- in Russ.
14. Скотт Дж. (2005) Благими намерениями государства, М.: Университетская книга.
15. Scott J. (2005) Seeing Like a State, M.: University book. -- in Russ.
16. Ananny M., Crawford K. (2016) Seeing Without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability. New Media &
17. Society, 20 (3): 980-981.
18. Bijker W., Law J. (eds) (1992) Shaping Technology /Building Society: Studies in Sociotechnical Change, Cambridge, Mass.; London: MIT Press.
19. Bloor D. (1991 [1976]) Knowledge and Social Imagery, 2nd ed., Chicago; London: The University of Chicago Press.
20. Burrell J. (2016) How the Machine 'Thinks': Understanding Opacity in Machine Learning Algorithms. Big Data & Society, 3 (1): 1-12.
21. Diakopoulos N. (2013) Algorithmic Accountability Reporting: On the Investigation of Black Boxes. Report, Tow Center for Digital Journalism, Columbia University. (https:// academiccommons.columbia.edu/doi/10.7916/D8ZK5TW2)
22. Dougherty C. (2015) Google photos mistakenly labels black people "gorillas". The New York Times, 1 July. (http://bits.blogs.nytimes.com/2015/07/01/google-photos-mistak- enly-labels-black-people-gorillas)
23. Edge D. (1979) Quantitative Measures of Communication in Science: A Critical Review. History of Science, 17 (2): 102-114.
24. Fuller S. (1997) Constructing the High Church-Low Church Distinction in STS Textbooks. Bulletin of Science, Technology & Society, 17 (4): 181-183.
25. Jasanoff S. (ed.) (2004) States of Knowledge: The Co-Production of Science and the Social Order, London; New York: Routledge.
26. Johnson J. (1988) Mixing Humans and Nonhumans Together: The Sociology of a Door-Closer. Social Problems, 35 (3): 298-310.
27. Latour B., Mauguin Ph., Teil G. (1992) A Note on Socio-Technical Graphs. Social Studies of Science, 22 (1): 33-57.
28. Latour B., Woolgar S. (1986) Laboratory Life: The Construction of Scientific Facts,
29. Princeton, New Jersey: Princeton University Press.
30. Latour B. (1990) Technology Is Society Made Durable. The Sociological Review, 38 (1_ suppl): 103-131.
31. Latour B. (1992) Where Are the Missing Masses? The Sociology of a Few Mundane Artifacts. W. Bijker, J. Law (eds) Shaping Technology/Building Society: Studies in Sociotechnical Change, Cambridge, Mass.; London: MIT Press: 225-259.
32. Latour B. (1994) On Technical Mediation: Philosophy, Sociology, Genealogy. Common Knowledge, 3 (2): 29-64.
33. Latour B. (1996) Aramis, or The Love of Technology, Cambridge, Mass.; London: Harvard University Press.
34. Latour B. (1999) Pandora's Hope: Essays on the Reality of Science Studies, Cambridge, Mass.: Harvard University Press.
35. Latour B. (2004) Why Has Critique Run out of Steam? From Matters of Fact to Matters of Concern. Critical Inquiry, 30 (2): 225-248.
36. Lipson H., Kurman M. (2016) Driverless: Intelligent Cars and the Road Ahead, Cambridge, Mass.: MIT Press.
37. Madrigal A. (2014) How Netflix Reverse-Engineered Hollywood? The Atlantic, January 2. (https://www.theatlantic.com/technology/archive/2014/01/how-netflix-reverse- engineered-hollywood/282679/)
38. Miller B. (2020) Is Technology Value-Neutral? Science, Technology, & Human Values, First Published Online January 22. (https://journals.sagepub.com/ doi/10.1177/0162243919900965)
39. Neyland D. (2015) Bearing Account-Able Witness to the Ethical Algorithmic System. Science, Technology, & Human Values, 41 (1): 50-76.
40. Ogburn W.F. (1964) On Culture and Social Change: Selected Papers, Chicago: University of Chicago Press.
41. Pasquale F. (2015) The Black Box Society, Cambridge, Mass.; London: Harvard University Press.
42. Pinch T., Bijker W. (1984) The Social Construction of Facts and Artefacts: Or How the Sociology of Science and the Sociology of Technology Might Benefit Each Other. Social Studies of Science, 14 (3): 399-441.
43. Pitt J.C. (2014) Guns Don't Kill, People Kill"; Values in and/or around Technologies. P. Kroes, P.-P. Verbeek (eds) The Moral Status of Technical Artifacts, Dordrecht, the Netherlands: Springer: 89-101.
44. Spolsky J. (2000) Things You Should Never Do, Part I. (https://www.joelonsoftware. com/2000/04/06/things-you-should-never-do-part-i/)
45. Stilgoe J. (2017) Machine Learning, Social Learning and the Governance of Self¬Driving Cars. Social Studies of Science, 48 (1): 25-56.
46. Vanderbilt T. (2012) Let the robot drive: The autonomous car of the future is here. Wired, January 20. (https://www.wired.com/2012/01/ff_autonomouscars/2/)
47. Wade L. (2010) HP software doesn't see black people. Sociological Images, 5 January. (https:// thesocietypages.org/socimages/2010/01/05/hp-software-doesnt-see-black-people/) Winner L. (1988) The Whale and the Reactor: A Search for Limits in an Age of High Technology, Chicago: University of Chicago Press.
48. Woolgar S., Cooper G. (1999) Do Artefacts Have Ambivalence? Moses' Bridges, Winner's Bridges and Other Urban Legends in S&TS. Social Studies of Science, 29 (3): 433-449.
49. Weber A. (2012 [1920]) Fundamentals of Cultural Sociology: Social Process, Civilizational Process and Cultural Movement. C. Loader (ed.). Alfred Weber and the Crisis of Culture, 1890-1933, New York: Palgrave Macmillan, US: 165-205.
Размещено на Allbest.ru
...Подобные документы
Предпосылки возникновения, формирование и развитие теории эмоционального интеллекта. Основные модели эмоционального интеллекта и методы его исследования. Влияние уровня эмоционального интеллекта руководителя на результаты управленческой деятельности.
дипломная работа [143,4 K], добавлен 22.04.2015Теоретико-методологические основы формирования гражданского общества в России. Специфика модернизации его институтов и условия их функционирования. Оценка опыта развития современных информационных технологий и их воздействие на новую модель общества.
дипломная работа [66,7 K], добавлен 16.06.2017Знакомство с основными особенностями использования информационных технологий в охране здоровья населения. Общая характеристика информационных технологий в практическом здравоохранении на примере республики Бурятия, анализ приоритетных направлений.
курсовая работа [8,3 M], добавлен 10.01.2014Проблема занятости населения. Телеработа с использованием современных информационных технологий. Использование сетевых технологий. Доступ к информационным ресурсам. Функции, задачи электронного правительства. Здравоохранение и социальная защита населения.
реферат [25,0 K], добавлен 14.03.2016Феномен старости и социогеронтологические теории. Содержание, принципы и особенности социальной работы в отношении пожилых граждан. Характеристика современных технологий социальной работы с пожилыми людьми, их социальное обслуживание и реабилитация.
курсовая работа [57,9 K], добавлен 11.01.2011Понятие социального интеллекта. Воспроизводство культур, трансформация общественных регуляторных систем и социальный капитал. Проблемы казуальной детерминации и взаимодействие социальных факторов. Особенности применения концепции социального интеллекта.
статья [65,4 K], добавлен 13.01.2014Соотношение социологии. Развитие общественного сознания, уровня цивилизованности человеческого общества, демократических принципов организации общества. Закон интеллектуальной специализации. Пропаганда в современных обществах. Специфика интеллекта.
статья [16,8 K], добавлен 07.02.2009Изучение основных аспектов влияния современных средств массовой информации на сознание молодежи. Характеристика типологии современных СМИ. Социологическое исследование особенностей их влияния на сознание личности, в частности, на социализацию подростков.
курсовая работа [98,6 K], добавлен 07.10.2013Общая характеристика приемной семьи. Рассмотрение особенностей создания благоприятных условий для временного пребывания ребенка в семье, социальной защиты детей. Разработка методических рекомендаций по работе социального педагога с приемной семьей.
курсовая работа [106,1 K], добавлен 17.05.2015Первоначальный этап развития концепции общества знания, роль информации в его эволюции. Особенности влияния экономического кризиса на развитие общества знаний. Понимание данной проблемы, связанное с соотношением риска и знания в человеческой деятельности.
курсовая работа [39,7 K], добавлен 10.11.2014Успешное социальное взаимодействие людей. Проблема социального интеллекта в современной науке. Эмпирическое исследование гендерной обусловленности социального интеллекта в межличностном взаимодействии. Феминистические и профеминистические сообщества.
курсовая работа [236,1 K], добавлен 22.12.2010История и теоретические основы социально-культурной деятельности, ее закономерности, представление об основных сферах ее реализации. Характеристика основных ее субъектов, ресурсной базы. Содержание и функции современных социально-культурных технологий.
учебное пособие [578,6 K], добавлен 10.12.2010Сущность понятия "социальные технологии". Классификация технологий по типу социального процесса, масштабу объекта технологизации, степени новизны, характеру воздействия. Методологические подходы к технологизации. Социальное проектирование технологий.
презентация [1,6 M], добавлен 09.05.2012Понятие и содержание социальных технологий, их классификация по различным признакам, разновидности и отличительные признаки. Специфика формирования и реализации глобальных, региональных, локальных, инновационных, информационных социальных технологий.
реферат [11,1 K], добавлен 10.08.2010Методологические принципы современных концепций научного знания в рамках социокультурного пространства. Мультикультурализм и толерантность как общие принципы социокультурного пространства в качестве социально-философских концепций научного знания.
статья [29,0 K], добавлен 21.09.2017Предпосылки становления социологического знания в эпоху Античности и в Новое время. Институционализация социологии как науки, направления ее развития и оценка современных достижений. Западный и российский опыт в данной области, его соотношение и роль.
контрольная работа [66,9 K], добавлен 17.08.2015Теоретические основы исследования взаимосвязи теории социальной работы и психологии. Социальная работа как область научного знания. Сущность и значение психологии в работе с клиентами. Применение психологических технологий в практике социальной работы.
курсовая работа [45,3 K], добавлен 28.10.2016Проблема исследования информационных технологий в социальной работе. Уровень компьютерной грамотности персонала ЦСОН и использование в работе центра глобальной сети Интернет. Готовность социальных работников к использованию информационных технологий.
контрольная работа [19,8 K], добавлен 06.06.2010Основные факторы, определяющие выбор жизненных стратегий современных женщин. Анализ результатов социологического исследования "Типологизация потребительского поведения на рынке женской одежды". Проблемы выбора современных женщин между семьей и карьерой.
дипломная работа [306,8 K], добавлен 16.06.2017Рассмотрение современных тенденций в социологическом анализе развода; изучение опыта западных стран. Анализ причин и последствий развода. Исследование особенностей работы с разведенной семьей (социально-психологический подход); социализация ребенка.
курсовая работа [42,7 K], добавлен 26.02.2015
