Дети, русский язык и R

от автора

Типичная ситуация в нынешнем образовательном процессе в школе. На часах 22:00, в электронном дневнике ребенка появляется новое задание. В лучшем случае на послезавтра, но обычно на завтра.

Вариантов реакции три:

  • не делать вовсе;
  • «не заметить» и отложить решение вопроса на потом;
  • попробовать сделать.

Вторая реакция по сути идентична первой, поскольку снежный ком таких заданий будет стремительно накапливаться без каких-либо шансов его разобрать.

Выбирая третий вариант, в отдельных случах даже задания по русскому языку можно попробовать решить с помощью R, принимая во внимание, что на все про все есть 15-20 минут максимум. 5 минут на «экстремальное программирование», 10-15 минут на чистовое оформление. Когда принципиально задача решена оформление можно уже и утром сделать

Является продолжением серии предыдущих публикаций.

Какие задачи пытаемся решить?

Естественно, сочинение писать или думать надо самостоятельно. Но есть определенный класс задач, который выглядит как задание для робота и алгоритмизируется хорошо.

Ниже просто обобщенные примеры, наверняка, многие найдут что добавить.

Задачка 1

Составление кроссвордов (русский/английский). Существуют псевдовариации — составление в заданной геометрической структуре или же в свободной форме. Опционально может быть задана тема.

Задачка 2

Подобрать N слов на заданную тему в которых встречаются (отсутствуют) буквы (подмножество на выбор).

Задачка 3

Подобрать N слов, которые могут быть написаны с ‘не’ как слитно, так и раздельно.

Варианты решения при помощи R

Подобный класс задач подразумевает наличие большого словарного запаса. Эта «долгая» стратегия и решается она только системным чтением художественной литературы.
N может быть реально большим (несколько десятков), а у нас есть 5 минут.

Шаг №1. Ищем и загружаем готовые корпуса русского языка. Можно использовать все, что удастся найти. Недавно хорошая подборка была здесь. Если ее там нет, то можно поглядеть в кладовке.

Загрузка словарей

library(tidyverse) library(readr) library(magrittr) library(stringi) library(udpipe) library(tictoc)  # Cловари русского языка для скачивания # http://www.speakrus.ru/dict/  # Словарь Про-Линг, 125723 слова voc1_df <- here::here("data", "pldf-win.zip") %>%   readr::read_delim(col_names = "word", delim = " ",                     locale = locale("ru", encoding = "windows-1251"))  # Словарь русской литературы, 162232 слова voc2_df <- here::here("data", "litf-win.zip") %>%   readr::read_delim(col_names = c("word", "freq"), delim = " ",                   locale = locale("ru", encoding = "windows-1251")) %>%   select(-freq)  # Словарь А. А. Зализняка, 93392 слова voc3_df <- here::here("data", "zdf-win.zip") %>%   readr::read_delim(col_names = "word", delim = " ",                     locale = locale("ru", encoding = "windows-1251"))  # Толковый словарь под ред. C. И. Ожегова, 1991 г., 61458 статей voc4_df <- here::here("data", "ozhegovw.zip") %>%   readr::read_delim(delim = "|", quote = "", locale = locale("ru", encoding = "windows-1251")) %>%   select(word = VOCAB)  voc_df <- bind_rows(voc1_df, voc2_df, voc3_df, voc4_df) %>%   distinct()

Шаг №2. Решаем задачи

Решаем задачу 1. Например, нам нужны слова из 7 букв, 1-ая — ‘Р’, 3-я — ‘Ч’

words_df <- voc_df %>%   filter(stri_length(word) == 7) %>%   filter(stri_sub(word, 3, 3) == "ч") %>%   filter(stri_sub(word, 1, 1) == "р")

Решаем задачу 2. Например, нам нужно Подобрать слова в которых встречаются буквы "В е ж з к н о с х э ю"

voc_df %>%   filter(stri_detect_regex(tolower(word), "^[вежзкносхэю]+$")) %>%   mutate(l = stri_length(word)) %>%   arrange(desc(l)) %>%   print(n = 400)

Решаем задачу 3. Какие существительные могут быть написаны с ‘не’ как слитно, так и раздельно?

tic("Аннотируем") print(lubridate::now()) ann_tbl <- voc_df %>%   mutate(ne_word = stri_c("не", word)) %>%   inner_join(voc_df, by = c("ne_word" = "word")) %>%   # stri_trans_general(id ="Latin-ASCII")   {udpipe_annotate(ud_model, x = .$word, trace = TRUE)} %>%   as_tibble() toc()  ne_tbl <- ann_tbl %>%   filter(upos == "NOUN") %>%   select(word = token) %>%   # немного постправок   filter(stri_length(word) > 3) %>%   filter(!stri_detect_regex(word, "ий$")) %>%   mutate(ne_word = stri_c("не", word)) %>%   sample_n(200) %T>%   print(n = 200)

И т.д. и т.п. Нет цели написать идеально работающий алгоритм, основная задача — отсеять максимально быстро 99% ненужного, а из оставшегося выбрать то, что интересует. Экономит много времени, сил и нервов.

Предыдущая публикация — «IT Service Health Monitoring средствами R. Взгляд под иным углом».

ссылка на оригинал статьи https://habr.com/ru/post/548888/


Комментарии

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *