Добавить новость
Главные новости Минска
Минск
Март
2023

Искусственный интеллект: как устроен и чего ждать от него в 2023 году

0
Искусственный интеллект: как устроен и чего ждать от него в 2023 году

Есть мнение, что мир стоит на пороге создания общего искусственного интеллекта (от англ. Artificial General Intelligence), способного мыслить и действовать как обычный человек. По данным агрегатора прогнозов Metaculus, эта технология может появиться уже в 2034 году.

Выпускник курса «Копирайтер» Нетологии Дмитрий Магонин вместе с постдок-исследователем университета Катании Иваном Родиным разобрался, действительно ли мы близки к появлению сознательных машин, где проходит граница искусственного интеллекта и чего нам ждать от него в 2023 году.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году

Дмитрий Магонин 

Выпускник курса «Копирайтер» Нетологии

Искусственный интеллект: как устроен и чего ждать от него в 2023 году

Иван Родин

Постдок-исследователь университета Катании и эксперт Нетологии

Что такое искусственный интеллект и какие компоненты его составляют

Искусственный интеллект — это способность компьютерных систем выполнять интеллектуальные и творческие функции, которые традиционно считаются человеческими.

Это определение, как и сам термин ИИ, было впервые озвучено в 1956 году на летнем семинаре в Дартмутском колледже, который организовали четверо американских учёных: Джон Маккарти, Марвин Ли Минский, Натаниэль Рочестер и Клод Шеннон. С тех пор понятие стало настолько популярным, что редко можно встретить человека, который о нём не слышал.

Сегодня технологии искусственного интеллекта используют в смартфонах, системах умных домов, медицине, образовании и промышленности. Однако эти разработки не могут в полной мере заменить человека: ИИ не обладает той же многозадачностью, в которой может работать человеческий мозг.

Чтобы понять, как устроен искусственный интеллект, рассмотрим элементы, которые необходимы для его создания ↓

Большие данные (от англ. Big Data) нужны для развития ИИ. Это база для глубокого обучения нейросетей.

Анализ больших данных (от англ. Data Mining) позволяет находить полезные и доступные решения в различных сферах человеческой деятельности. Мобильные устройства, облачные вычисления и интернет вещей расширяют экосистему больших данных, давая новые возможности для извлечения полезных знаний, выявления тенденций и настройки алгоритмов.

Искусственная нейронная сеть (ИНС) — система соединённых и взаимодействующих между собой простых блоков математических операций, моделирующих искусственные нейроны. В целом модель искусственной нейросети имитирует принципы сетей нервных клеток мозга живого организма. Такие системы не программируются в привычном смысле этого слова — они обучаются. Наибольшее применение нейронные сети нашли в программных приложениях, которые трудно выразить традиционным компьютерным алгоритмом, написанным на основе правил. Например, для работы с изображениями, видео, текстом и звуком.

Принцип работы нейросети можно рассмотреть на примере обучения простой модели, которая имеет архитектуру перцептрона.

Перцептрон — математическая или компьютерная модель восприятия информации мозгом.


Перед нами задача классификации изображений, когда нейросеть присваивает метки картинкам после идентификации изображённых на них объектов. Такие примеры решаются по принципу «обучение с учителем»: для тренировки модели нужно собрать полный набор размеченных изображений.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году
Логическая схема перцептрона с тремя выходами. Источник: Wikipedia

В процессе обучения с S-элементов нейросети на А-элементы из обучающего датасета поступает изображение объекта — например, кошки. Сигнал преобразуется и передаётся дальше на R-элементы нейросети — те, что, по сути, делают предсказание. Полученное предсказание сравнивается с разметкой эталона.

Все элементы перцептрона связаны между собой, и у каждой связи есть вес — число, отвечающее за то, каким образом сигнал будет преобразован. Если в процессе обучения предсказание нейросети будет отличаться от эталонной разметки, веса нейросети изменятся так, чтобы в следующий раз предсказание для этой картинки было корректным. Соответственно, во время обучения веса нейронов автоматически меняются и балансируются по особым алгоритмам. Впоследствии, если обучение прошло хорошо, полученную нейросеть с выученным набором весов можно будет использовать для классификации новых изображений, которые не вошли в обучающий датасет.

Этот пример — сильно упрощённая модель как искусственной нейронной сети, так и биологической нейросети человека или животного. Архитектуры и топологии современных глубинных ИНС гораздо сложнее и масштабнее. Они имеют множественные слои ассоциативных элементов, способных структурировать и ранжировать информацию. Эти сети создают многоуровневые композиции из примитивных данных, которые позволяют моделировать сложные, нелинейные отношения.

Комбинируя различные виды архитектур ИНС, инженеры создают многокомпонентные системы для различных задач. Быстрее всего развиваются такие области, как компьютерное зрение, распознавание речи и аудио, обработка естественного языка, биоинформатика, генерация изображений, текстов и машинного кода.

Методы машинного обучения помогают компьютеру учиться решать задачи на основе множества примеров. После обучения машина способна решать те же задачи на новых данных, которые не видела в процессе анализа.

Например, чтобы научить систему распознавать изображения, специалисты используют большой массив изображений — датасет, с описанием, или разметкой, представленных на них объектов: человек, кошка, автомобиль и так далее. После загрузки массива картинок, по мере анализа полученной информации, программа учится самостоятельно идентифицировать объекты. Связь между нейронами, которые привели к правильному ответу, усиливается, а к неправильному — ослабляется. После многократных итераций сеть создаёт правильные нейронные соединения — в этот момент можно сказать, что система научилась верно решать задачу.

Насколько искусственный интеллект приблизился к человеческому

Искусственный интеллект уже решает множество задач, на выполнение которых у людей ушли бы тысячи часов: обыгрывает шахматных гроссмейстеров, выявляет переломы на рентгеновских снимках, выбирает самый быстрый маршрут для грузовика доставки, проводит тестирование компьютерных программ с экрана. При этом у ИИ из-за отсутствия какой-либо субъектности нет понимания того, как он выполняет эти задачи.

Чтобы понять, на каком уровне сознания сейчас находится ИИ, нужно рассмотреть принцип работы интеллекта человека. Здесь можно выделить основные этапы:

Искусственный интеллект: как устроен и чего ждать от него в 2023 году Получение информации и первичная обработка данных.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году Сортировка информации по блокам и обобщение.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году Построение выводов и прогнозирование будущего.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году Построение общей картины мира.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году Субъектность, рефлексия, мотивировка принятия решений.

Если взять систему ИИ для беспилотных авто, каждый из этапов можно было бы охарактеризовать следующим образом:

Искусственный интеллект: как устроен и чего ждать от него в 2023 году Первичная обработка видео и лидар-сигналов (от англ. LiDAR — Light Detection and Ranging, «обнаружение и определение дальности с помощью света»), определение расстояния до ближайших объектов.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году Выделение и распознание объектов: пешеходов, автомобилей, дорожных знаков.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году Предсказание поведения других участников дорожного движения.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году Моделирование нестандартных ситуаций: например, если у светофора горят все три секции, нужно понять, что тот неисправен, и принять все меры предосторожности на перекрёстке.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году Осознание собственного я: «Зачем я еду из пункта А в пункт Б?», «Почему между вариантами „наехать на пешехода“ и „поцарапать машину о столб“ надо выбрать второе?»

Сегодня ИИ полностью освоил пункты 1 и 2 и частично реализовал пункт 3, усиленно развиваясь в этом направлении.

С пунктами 4 и 5 всё гораздо сложнее, поскольку их реализация выходит за границы бесхитростной логики машины. Здесь начинают играть такие понятия, как осознание своей личности и эго, бессознательное, эмоции, чувства. Та удивительная смесь индивидуальной биохимии, личного жизненного опыта и его интерпретации, которая делает нас теми, кем мы являемся — людьми в полном понимании этого слова.

Компьютерный интеллект, в отличие от человеческого мышления, не связан с эмоциями и особенностями личности. Да, системы на основе ИИ способны понимать и синтезировать речь, решать и действовать. Однако эти решения и действия не имеют никакой эмоциональной окраски — они основаны только на результатах обработки информации.

Можно с уверенностью сказать, что сегодня ИИ — это всего лишь множество интеллектуальных систем и их комбинаций, способных решать конкретные задачи: рисовать, водить автомобиль, проводить тестирование компьютерной программы или даже писать довольно крупные фрагменты кода. Однако о появлении общего искусственного интеллекта, обладающего разумом и самосознанием, пока говорить рано. Поэтому в противовес термину «общий ИИ» используется «слабый ИИ», чтобы обозначить технологию, которая пусть и может справляться с отдельными задачами лучше человека, но не обладает сознанием и не способна сравниться с интеллектом человека на широком спектре задач.

Технически современная наука может создать модель ИНС, которая по количеству нейронов будет сравнима с нейронной сетью кошки. Но мозг — это не просто массив отдельных нейронов, имеющих связь друг с другом. Это сложная динамическая система — её рабочие процессы до сих пор изучены далеко не полностью. Это же можно сказать и про сознание, многие принципы которого до сих пор неизвестны. Так что даже сознание кошки — цель для современного ИИ пока недостижимая. И выступает он сегодня только в качестве помощника, которые берёт на себя множество рутинных задач, требующих обработки больших массивов данных.

Одно из перспективных направлений в области развития ИИ — метод, согласно которому нейронная сеть самостоятельно исследует процесс создания искусственного интеллекта и вносит изменения в алгоритмы кода. Это позволяет ей не только изучать, но и улучшать свою топологию и архитектуру.

Один из ярких примеров этого способа — AutoML, проект компании Google, который использует автоматическое машинное обучение своих нейросетей. В процессе обучения ИНС сама подбирает алгоритмы, наиболее подходящие для выполнения той или иной задачи. Одновременно с этим алгоритмы-подборщики проходят обучение с людьми. Благодаря тому, что машина в единицу времени способна обработать огромные массивы информации и проанализировать миллионы различных вариантов написания кода, процесс обучения и развития ИИ идёт гораздо быстрее, чем если бы это делала группа программистов.

Учёные предполагают, что с учётом видимого роста производительности машин и совершенствования архитектуры нейронных сетей, систему, которая будет наиболее полно имитировать работу человеческого мозга, получится создать в 2030–2035 годах. Такой отдалённый прогноз имеет много условностей — погрешность в сроках довольно велика. Однако и ближайшее будущее ИИ несёт нам много интересных событий.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году Профессия

Data Scientist
с нуля до middle

Узнать больше

  • Построите карьеру в анализе данных и обучении нейронных сетей
  • Добавите более 14 проектов в портфолио
  • Сможете искать работу в новой сфере уже через 8 месяцев обучения

Основные тренды развития ИИ

В 2023 году правительства и корпорации по всему миру планируют потратить более 500 млрд долларов на развитие искусственного интеллекта. Рассмотрим самые интересные области использования ИИ, на которые стоит обратить внимание.

Генеративный ИИ

Это направление ошеломляло и удивляло нас весь 2022 год. Внезапно оно перевернуло все представления о возможностях ИИ в различных областях: от искусства и поэзии до публицистики и кодинга.

ChatGPT достиг миллиона пользователей всего за неделю. Для сравнения Facebook* потребовалось 10 месяцев, а Instagram* — 2,5 месяца, чтобы прийти к такому результату. По данным OpenAI, около 1,5 млн пользователей используют нейросеть DALL-E для создания 2 млн изображений в день. У Stable Diffusion более 10 млн пользователей, а у MidJourney — 2 млн.

* Facebook и Instagram принадлежат компании Meta, которая признана экстремистской организацией и запрещена в РФ.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году
Такое изображение нейросеть Stable Diffusion сгенерировала по запросу Netology community

Член открытой исследовательской группы Knives and Paintbrushes Майк Кук считает, что генеративный ИИ по-прежнему будет главной движущей силой перемен. Его привлекательность — в способности генерировать новый контент: картины, новости, стихи, фрагменты машинного кода. Нейросети могут генерировать текст, который выглядит и читается так, будто написан человеком.

Ожидается, что в 2023 году генеративный ИИ научится создавать email-рассылки, помогать в разработке маркетинговых концепций, слоганов и брендов, создавать чертежи, концепты промышленных моделей, рекламные материалы. Это позволит людям творить и не тратить годы на приобретение нужных навыков.

Голосовой и языковой ИИ

Эволюция этого направления ожидается в том числе за счёт больших языковых моделей (от англ. Large Language Models): GPT-3 и GPT-4 от OpenAI, LaMDA от Google и BLOOM от независимого сообщества, в которое входят более тысячи исследователей из 70 стран. Причём бóльший фокус в развитии получат открытые языковые модели, такие как BLOOM. Исследователи и разработчики охотно делятся подробностями о данных, на которых обучалась эта нейросеть, рассказывают о проблемах в её разработке и о том, как они оценивали производительность. OpenAI и Google не делились своим кодом и не делали свои модели общедоступными. Поэтому для сторонних исследователей они остаются неизвестными, поскольку никто не может вывести точные алгоритмы, по которым эти модели обучаются, кроме самих разработчиков.

Объяснимый ИИ

Это система, действия которой люди могут с лёгкостью понять. Развитие объяснимого ИИ особенно важно в здравоохранении, поскольку большинство современных нейросетей не дают ясного объяснения, почему и каким образом они принимают те или иные решения. Нельзя быть уверенным, что диагностика пациентов будет верной, если алгоритм искусственного интеллекта не обучен надлежащим образом и нет понимания принципов, на основе которых он принимает решение.

Разработчики, отвечающие за внедрение систем ИИ, будут усерднее работать над тем, чтобы ИНС могли объяснить, как принимаются решения и какая информация использовалась для их принятия.

Этика ИИ

Роль этики искусственного интеллекта также станет более важным фактором. Искусственный интеллект постоянно тестируют в процессах, связанных с принятием решений. В таких действиях, как обработка резюме, постановка диагнозов, вынесение приговоров, практика показала, что ошибки в обучении нейросети могут приводить к неправильным выводам. За этим следует дискриминация и некорректное обращение с людьми. И это совсем неприемлемо в ситуациях, где ИИ играет роль судьи в вопросах трудоустройства, правосудия или здравоохранения.

Кибербезопасность на основе ИИ

По прогнозам экспертов, в 2023 всё больше компаний будут увеличивать затраты на использование искусственного интеллекта в проектах по защите от киберугроз. Нейросети будут анализировать кибератаки, выявляя подозрительные тенденции и закономерности. Этот процесс обещает стать увлекательной и нескончаемой игрой в кошки-мышки, так как киберпреступники тоже будут использовать ИИ для противоправных действий.

Виртуальные помощники

Внедрение виртуальных ассистентов в различные производственные и бизнес-сферы приобретёт ещё больший масштаб. Также планируется активно развивать это направление на горячих линиях в области государственных услуг, муниципального управления, системы здравоохранения. По данным Statista, в 2023 году прирост голосовых помощников к 2019 составит почти 60%. Предполагается, что боты смогут различать эмоции людей и подстраивать свои алгоритмы под настроение пользователя. Также, вероятнее всего, мы наконец сможем видеть ботов в формате голограммы или умного экрана.

Периферийный ИИ

Периферийный искусственный интеллект также окажется в трендах 2023 года, особенно в области интернета вещей. Это значит, что алгоритмы машинного обучения будут работать непосредственно на наших устройствах: пылесосах, зубных щётках, смартфонах, автомобилях.

Развитие периферийного ИИ позволит обрабатывать данные в течение нескольких миллисекунд, обеспечивая обратную связь в реальном времени. При этом не придётся расходовать время и трафик на пересылку информации в облако и обратно — так, как это было ранее. Конечно, обмен данными между аппаратными устройствами и материнской моделью ИИ необходим: головную модель нужно регулярно обучать с использованием обратной связи от конечных гаджетов. И глубокий анализ этой информации можно провести только в мощной нейросети. Но, по крайней мере, автономность этих устройств вырастет значительно, поскольку теперь речь идёт не о постоянном соединении и обмене данными, а о периодических сеансах связи, которые можно проводить при наличии качественного трафика.

Резюмируем

Искусственный интеллект — способность компьютерных систем имитировать деятельность человеческого мозга. Технологии на его основе всё глубже проникают в нашу жизнь: их применяют в образовательной, медицинской, промышленной, транспортной, бытовой и других сферах.

Для создания искусственного интеллекта необходимы большие данные, их качественная обработка, методы машинного обучения и ИНС.

Системы с ИИ могут решать конкретные задачи: генерировать изображения, водить автомобиль, тестировать компьютерные программы. Однако об искусственном интеллекте, обладающем разумом и самосознанием, говорить пока рано.

В 2023 году особенно быстрое развитие ожидается в сферах генеративного, голосового и языкового, объяснимого и периферийного ИИ. Также в трендах будет вопрос этики искусственного интеллекта и применение технологий на его основе в кибербезопасности.


Мнение автора и редакции может не совпадать. Хотите написать колонку для Нетологии? Читайте наши условия публикации. Чтобы быть в курсе всех новостей и читать новые статьи, присоединяйтесь к Телеграм-каналу Нетологии.

Искусственный интеллект: как устроен и чего ждать от него в 2023 году

Дмитрий Магонин

Выпускник курса «Копирайтер» Нетологии

Искусственный интеллект: как устроен и чего ждать от него в 2023 году

Иван Родин

Постдок-исследователь университета Катании и эксперт Нетологии

The post Искусственный интеллект: как устроен и чего ждать от него в 2023 году first appeared on Медиа Нетологии.







Юные таланты под эгидой Фонда Спивакова дали концерт в «Михайловском»

Директор Росгвардии генерал армии Виктор Золотов принял участие в посвященных 100-летию дивизии имени Ф.Э. Дзержинского торжественных мероприятиях

В Красноярском крае будут судить азербайджанца, который в 2006 году избил и изнасиловал певицу

Легенда о «300-х русских школах» в Азербайджане


Детская зубная щетка Revyline RL 025 Panda доступна в Бурятии

Работники сервисного локомотивного депо (СЛД) «Боготол-Сибирский» филиала «Красноярский» ООО «ЛокоТех-Сервис» приняли участие в соревнованиях Роспрофжел «Мы вместе»

Есть или не есть кровянку, прокомментировал гастроэнтеролог Садыков

«Три богатыря. Ни дня без подвига» уже в кино! «Юмор FM» рекомендует


PGA Tour Commissioner Jay Monahan shuts down Saudi agreement rumors: “complex scenario”

Bradley Wiggins accused of ‘trashing’ posh VW campervan as pals say bankrupt cyclist has sold his medals and shirts

Anthony Joshua-Daniel Dubois: Two-Weight World Champion Has No Doubt Who Hits Harder

Frustrated England stars including Kane and Bellingham consoled by Wags and family in stands after tame Denmark draw


Военные следователи провели рейд по бывшим мигрантам в Феодосии

Николаю Николаевичу Дроздову сегодня исполнилось 87 лет!

Audi работает над кроссовером RS Q6 e-tron с агрегатами от Porsche Macan Turbo

Ученые раскрыли стоящие за редкими заболеваниями скрытые ДНК-механизмы


На смартфоны выйдет игра Too Hot to Handle 3 по реалити-шоу «Испытание соблазном»

Вышла мобильная игра Super Marionette Hero про Пиноккио в Аду

The original Counter-Strike mod is 25 years old, Valve calls it 'the greatest videogame ever made'

BarbarQ 2 вошёл в стадию ЗБТ на Android в Китае


Відомий аграрій Кормишкін, складає свої депутатські повноваження


В Москве больной мальчик выпал из окна больницы и погиб

Навка: во время болезни Заворотнюк возили по Москве только в парандже

«Он карабкался за каждую ниточку»: подросток выпал из окна больницы в Москве и погиб

"Известия": в Москве больной мальчик выпал из окна палаты больницы


В ВСК открылась выставка картин народного художника России Василия Нестеренко

Москва и Минск создадут общее миграционное пространство

Биньямин Джепаев: «От мечты выступить на «Дакаре» не отказался»

Россия и Белоруссия объединят усилия по борьбе с нелегальной миграцией


Белорусские боксеры завоевали три серебра на Играх БРИКС

Спасенный на трассе в Хабаровском крае тигренок проходит карантин в Минском зоопарке

Руководитель турагентства в Бобруйске похитила более Br80 тыс.

Белорусские спортсмены выиграли 40 наград в десятый день Игр БРИКС


Маринов, Мартьянова, Шлейхер: кто еще из звезд Игр БРИКС мог поехать на Олимпиаду в Париж

Касаткина проиграла Соболенко на турнире WTA в Берлине

Калинская вышла в полуфинал турнира WTA в Берлине на отказе Соболенко

Рыбакину "оставили" без Уимблдона


Белорусские боксеры завоевали три серебра на Играх БРИКС

Парад польских войск в Минске 1919 г.: освобождение от большевиков

Более 50 художников из России и Белоруссии экспонируют этюды о войне в Смоленске

Белорусские спортсмены выиграли 40 наград в десятый день Игр БРИКС


Музыкальные новости

Дочери Оксаны Самойловой и Джигана потребовался психолог. И вот почему

Концерт и акцию у мемориала провели в Барнауле в День памяти и скорби

Певица Анна Семенович снялась на фото с женатым любовником в салоне автомобиля

Два года прошло со дня смерти Юрия Шатунова


В Москве больной мальчик выпал из окна больницы и погиб

Большинство россиян считают, что сбережения надо хранить в национальной валюте

"Известия": в Москве больной мальчик выпал из окна палаты больницы

Навка: во время болезни Заворотнюк возили по Москве только в парандже


Ирина Ортман оставляет в прошлом «Всё, что было вчера».

Чемпионат Москвы по снайперской стрельбе пройдет в парке «Патриот»

Посол Эмануэль: Визиты Путина в КНДР и Вьетнам реализовали худшие опасения США

Audi работает над кроссовером RS Q6 e-tron с агрегатами от Porsche Macan Turbo


Электробусы вышли на маршрут № 539 на северо-востоке столицы

Источник 360.ru: на востоке Москвы пассажирский автобус врезался в столб

Ликсутов: На северо-востоке Москвы появился электробусный маршрут

Их любимый лунный трактор: почему китайцам так интересны исследования спутника Земли


Кипрский подкоп: Некая группировка по просьбе Путина нанесёт визит на базы Британии у побережья

Путин съездил в КНДР, ураган прошел по Москве, итоги «мирного саммита» лишились подписей – большие итоги недели от РИА «Новый День»

СМИ: РФ расширяет влияние не только на страны Африки и Латинской Америки

Путин возложил цветы к обелискам городов-героев в Москве




Психиатр Вилков объяснил, что опасно употреблять при приеме антидепрессантов

«Он карабкался за каждую ниточку»: подросток выпал из окна больницы в Москве и погиб

"Известия": в Москве больной мальчик выпал из окна палаты больницы

Навка: во время болезни Заворотнюк возили по Москве только в парандже



Рождаемость на Дальнем Востоке стала выше, чем в среднем по России

Ежегодную спартакиаду «Комус» провели в Лужниках

Навка: во время болезни Заворотнюк возили по Москве только в парандже

Многократный чемпион по гребле на каноэ Фирсов умер на 36-м году жизни



Ветераны Москвы получили послание от Сергея Собянина

Собянин обратился к ветеранам Великой Отечественной войны в День памяти и скорби

Мэр Москвы направил послание ветеранам столицы

Собянин: Транспортная доступность Богородского и Метрогородка будет улучшена


Кто в теремочке живет? Завершились работы по реставрации знаменитой усадьбы Шервудов

В Москве презентовали награду в честь знаменитого лесничего Ленобласти

В ОЭЗ «Технополис Москва» подсчитали выбросы ...


Руководитель турагентства в Бобруйске похитила более Br80 тыс.

Парад польских войск в Минске 1919 г.: освобождение от большевиков

Польша на грани закрытия границы с Белоруссией

В Беларуси завершились международные соревнования по пожарно-спасательному спорту


В Архангельске состоялся 27-й региональный полевой слёт «Школа безопасности»

Стрелок Леонид Екимов – серебряный призёр чемпионата России

Гайдаровские чтения в Архангельске объединят библиотекарей страны и региона

Москвичам напомнили о временном закрытии участка БКЛ метро


Выставка-вернисаж военной книги «А завтра была война», ко Дню начала Великой Отечественной войны. День памяти и скорби.

Исторический экскурс "И будет долгим эхо той войны", ко Дню памяти и скорби

Настенные сплит-системы: Преимущества и Установка от «Техноград»

Книжно-иллюстративная выставка «Спасибо, Артек, за веру в мечту!», к 99-годовщине основания Международного детского центра «Артек»


Минэкономики: проекты перечней разрешенных видов деятельности внесены на утверждение в правительство

Более 50 художников из России и Белоруссии экспонируют этюды о войне в Смоленске

Из-за поведения мигрантов Польша хочет полностью закрыть границу с Белоруссией

В Беларуси завершились международные соревнования по пожарно-спасательному спорту














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *