프로그래밍
-
flair 모델로 fine-tuning하기프로그래밍/자연어처리 2024. 9. 5. 18:21
flair ner 모델을 사용하다보니 분류 모델로도 사용이 가능하다고 해서 확인해보았다. flair 모델 훈련 샘플 코드 아래가 훈련 샘플 코드인데 간단해 보인다. from flair.data import Corpusfrom flair.datasets import TREC_6from flair.embeddings import TransformerDocumentEmbeddingsfrom flair.models import TextClassifierfrom flair.trainers import ModelTrainer# 1. get the corpuscorpus: Corpus = TREC_6()# 2. what label do we want to predict?label_type = 'question..
-
aws ec2에서 공격 들어오는 IP 차단하기프로그래밍/aws 2024. 8. 27. 15:38
가끔씩 운영하는 웹사이트에 bot으로 공격이 들어올 경우가 있어서 처리방법을 기록해둡니다. 리눅스 ec2에는 iptables 이 기본적으로 설치되어있었습니다. iptables 규칙확인 sudo iptables -L -v -n 차단할 ip 확인 아파치 로그 기본 위치 : /etc/httpd/logs/access_log 여기에서 아래와 같이 공격이 들어오는 ip를 확인할 수 있습니다. 172.**.**.*** - - [27/Aug/2024:15:32:24 +0900] "GET / HTTP/1.1" 200 .. 특정 IP 주소 차단하기 sudo iptables -A INPUT -s [차단할 IP 주소] -j DROP 간단하게 공격하는 IP를 차단할 수 있습니다.
-
한국어 ner 시작하기 - pytorch-bert-crf-ner 사용후기프로그래밍/자연어처리 2024. 8. 26. 17:07
flair는 사용 태그 개수가 적어서 한국어 특화된 개체명인식기를 찾다 발견했습니다. https://github.com/eagle705/pytorch-bert-crf-ner.git GitHub - eagle705/pytorch-bert-crf-ner: KoBERT와 CRF로 만든 한국어 개체명인식기 (BERT+CRF based Named Entity RecognKoBERT와 CRF로 만든 한국어 개체명인식기 (BERT+CRF based Named Entity Recognition model for Korean) - eagle705/pytorch-bert-crf-nergithub.com 우성 저장소를 클론하고.. git clone https://github.com/eagle705/pytorch-be..