What should an ordinary person understand about the work of generative artificial intelligence? Proceedings of the competition "TRIZformashka-2024"
https://doi.org/10.32517/2221-1993-2024-23-4-44-57
Abstract
Three basic aspects of the operation of generative neural network models (generative artificial intelligence) are discussed in the article: the concept of a "token", the probabilistic nature of the generated response, and the concept of a "large model", the size of which ensures the pseudo-intelligent behavior of neural network chatbots. The issues of implementing generative models, areas and methods of their application are not discussed in principle.
The materials of the "TRIZformashka-2024" competition, which was dedicated to neural network models, are provided. The fact of pseudo-intelligence of generative models is demonstrated. It turns out that a model trained on a single phrase "mama myla ramu" ("mama washed the frame") and using a context of a single letter for generation can sometimes behave as if it knows the rules of declension in the Russian language and is able to change a word by case!
The concept of a "token" is considered in relation to the generation of texts, pictures and passwords. On the basis of "tokens" a practically useful method of generating passwords is built, difficult to guess, but easy to reproduce (difficult to forget).
The concept of a "large model" is presented clearly and intelligibly due to its "visualization" by comparing it with physical quantities. (If one parameter of a neural network weighed one gram, then 200 freight trains would be needed to transport it. If one parameter had a length one millimeter, then the neural network would revolve around the Earth at the equator 25 times. If one second was required to learn one parameter, then it would be necessary to start training a modern neural network in the times of the Cro-Magnons.)
The materials will be useful for studying generative artificial intelligence at any age.
About the Author
M. A. PlaksinRussian Federation
Perm
References
1. 16 способов использовать ChatGPT и другие нейросети на уроках в школе // Мел. https://mel.fm/vospitaniye/sovety/2387014-16-sposobov-ispolzovat-chatgpt-i-drugiyeneyroseti-na-urokakh-v-shkole-da-tak-mozhno-bylo
2. Богданова А. Н., Федорова Г. А. Чат-боты как компонент содержания обучения основам искусственного интеллекта в школе // Информатика в школе. 2022. № 2. С. 39–45. EDN: VSVSRL. DOI: 10.32517/2221-1993-2022-21-2-39-45.
3. Глотова М. Ю., Самохвалова Е. А., Мухлынина О. А. Обучение цифровым образовательным технологиям на основе систем с элементами искусственного интеллекта (чатбот) // Наука и школа. 2022. № 6. С. 205–215. EDN: INLAGZ. DOI: 10.31862/1819-463X-2022-6-205-215.
4. Глотова М. Ю., Самохвалова Е. А., Мухлынина О. А. Развитие навыков в области нейросетевых технологий для будущих педагогов: возможности и преимущества // Наука и школа. 2023. № 5. С. 162–172. EDN: NHOTUQ. DOI: 10.31862/1819-463X-2023-5-162-172.
5. Казаченок В. В. Применение нейронных сетей в обучении // Информатика и образование. 2020. № 2 (311). С. 41–47. EDN: CEYGED. DOI: 10.32517/0234-0453-2020-35-2-41-47
6. Карманова Е. В., Медведева П. И. Подготовка школьников старших классов к решению олимпиадных заданий по интеллектуальному анализу данных // Информатика в школе. 2022. № 2. С. 49–57. EDN: YRQREE. DOI: 10.32517/2221-1993-2022-21-2-49-57.
7. Лабораторный практикум по ИИ. Приложение к учебно-методическому комплексу. https://www.lbai.ru/
8. Левченко И. В., Меренкова П. А. Формирование содержательных модулей для обучения искусственному интеллекту в основной школе // Вестник Российского университета дружбы народов. Серия: Информатизация образования. 2021. Т. 18. № 3. С. 227–237. EDN: UOMFOA. DOI: 10.22363/2312-8631-2021-18-3-227-237.
9. Левченко И. В., Садыкова А. Р., Абушкин Д. Б., Карташова Л. И., Кондратьева В. А., Меренкова П. А. Методические рекомендации по обучению искусственному интеллекту в основной школе: учебно-методическое пособие. М.: Образование и Информатика, 2021. 48 с.
10. Некрасова И. И., Розов К. В., Шрайнер Б. А. Перспективы внедрения технологий искусственного интеллекта в сфере высшего и общего образования // Сибирский педагогический журнал. 2021. № 3. С. 20–27. EDN: XYAKGN. DOI: 10.15293/1813-4718.2103.02.
11. Пантюхин Д. В. Учебно-методические материалы мастер-класса «Состязательные атаки на нейронные сети распознавания изображений» для студентов и школьников // Информатика и образование. 2023. Т. 38. № 1. С. 55–63. EDN: LVKCUV. DOI: 10.32517/0234-0453-2023-38-1-55-63.
12. Паравина А.С. Использование нейросети в работе учителя информатики // Информатика в школе. 2023. № 4. С. 34–42. EDN: PANELY. DOI: 10.32517/2221-1993-2023-22-4-34-42.
13. Плаксин М. А. ТРИЗформатика — метапредмет, объединяющий компьютерные и интеллектуальные технологии работы с информацией (ответ на вызов информационного общества) // Программирование. 2011. № 6. С. 26–32. EDN: OKMOAT.
14. Плаксин М. А., Иванова Н. Г., Русакова О. Л. Информатика: учебник для 3 класса. В 2 ч. М.: БИНОМ. Лаборатория знаний, 2019.
15. Плаксин М. А., Иванова Н. Г., Русакова О. Л. Информатика: учебник для 4 класса. В 2 ч. М.: БИНОМ. Лаборатория знаний, 2019.
16. Розов К. В. О необходимости изменения содержания профессиональной подготовки будущего учителя информатики в области искусственного интеллекта // Информатика и образование. 2020. № 4 (313). С. 12–26. EDN: WQHBLC. DOI: 10.32517/0234-0453-2020-35-4-12-26.
17. Рыжова Н. И., Трубина И. И. Актуализация изучения этических проблем искусственного интеллекта современными школьниками // Информатика в школе. 2022. № 5. С. 26–31. EDN: VIZMRZ. DOI: 10.32517/2221-1993-2022-21-5-26-31.
18. Рыжова Н. И., Трубина И. И., Королева Н. Ю., Филимонова Е. В. Искусственный интеллект как актуальный тренд содержания обучения информатике в условиях цифровизации // Преподаватель ХХI век. 2022. № 2-1. С. 11–22. EDN: ZGIENM. DOI: 10.31862/2073-9613-2022-2-11-22.
19. Самохвалова Е. А. Разработка модели интеграции технологий искусственного интеллекта в образовательный процесс вуза // Педагогическая информатика. 2023. № 4. С. 459–471. EDN: LXBUOT.
20. Самохвалова Е. А. Применение чат-бота с элементами искусственного интеллекта для изучения темы «Работа с табличными процессорами» // Информатика в школе. 2024. Т. 23. № 1. С. 60–69. EDN: AKHOMJ. DOI: 10.32517/2221-1993-2024-23-1-60-69.
21. Самылкина Н. Н., Калинин И. А., Салахова А. А. Практикум по искусственному интеллекту для учащихся 9–11 классов. М.: БИНОМ. Лаборатория знаний, 2020. 154 с.
22. Самылкина Н. Н., Салахова А. А. Обучение основам искусственного интеллекта и анализа данных в курсе информатики на уровне среднего общего образования: монография. М.: МПГУ, 2022. 242 с. EDN: BACMCW. DOI: 10.31862/9785426310643.
23. Урок цифры. Искусственный интеллект в отраслях. Искусственный интеллект в стартапах. Искусственный интеллект в образовании. https://урокцифры.рф/lessons
24. Шамсутдинова Т. М. Проблемы и перспективы применения нейронных сетей в сфере образования // Открытое образование. 2022. Т. 26. № 6. С. 4–10. EDN: UVOFLM. DOI: 10.21686/1818-4243-2022-6-4-10.
25. AI-ACADEMY Академия искусственного интеллекта для школьников. https://ai-academy.ru/
Review
For citations:
Plaksin M.A. What should an ordinary person understand about the work of generative artificial intelligence? Proceedings of the competition "TRIZformashka-2024". Informatics in school. 2024;(4):44-57. (In Russ.) https://doi.org/10.32517/2221-1993-2024-23-4-44-57