#Lire et écrire des fichiers texte en Python (entrée / sortie)
with open('/hana.txt', mode='r', encoding='shift_jis') as f: 
  nose_hana = f.read()

print(nose_hana)

#Prétraitement des données
import re
import pickle

nose = re.sub('《[^》]+》', '', nose_hana)    #Supprimer le rubis
nose = re.sub('[|―  「」\n]', '', nose)      # |-Et espace pleine largeur, "" et suppression des sauts de ligne
nose = re.sub('[ ]', '', nose)                #Supprimer l'espace demi-largeur
nose = re.sub('[\u3000]', '', nose)           #\u3000 supprimé

sentense_end = '。'

nose_list = nose.split(sentense_end)
nose_list.pop()
nose_list = [x+sentense_end for x in nose_list]

print(nose_list)

from janome import tokenizer

s = Tokenizer()

t = nose_list

for _ in nose_list:
  print(s.tokenize(_, wakati=True))

#Vous pouvez compter la fréquence d'apparition dans les collections
import collections

s = Tokenizer() #Instanciation
words = []
for _ in nose_list:
  words += s.tokenize(_, wakati=True)

c = collections.Counter(words)
print(c)

Recommended Posts