Subin Park

Student at Yonsei University and majoring computer science and mathematics, working on NLP and reinforcement learning.

Featured

Introduction The LLMs are generally trained on large corpora, and most of them are consisted with web crawled data. The LLMs are trained by le...

Long Term Dependency 기존의 RNN 모델은 어텐션 메커니즘으로 보완하긴 했지만 태생적으로 다음 시퀀스에 전달할 수 있는 정보의 양에 한계가 있는 탓에 긴 시퀀스에서는 초기 정보가 사라지는 문제가 있었다. 왜냐하면 어텐션 메커니즘으로 특정...

Seq2Seq Model Seq2Seq 모델은 Many to Many 모델의 일종이다. Seq2Seq 모델은 두가지 종류의 LSTM 혹은 GRU 모델로 구성된다. 입력 시퀀스를 받는 LSTM/GRU 부분을 인코더, 출력 시퀀스를 출력하는 LSTM/GRU...

RNN Recurent Neural Network RNN의 기본적인 정의는 다음과 같다. 이 때 는 hidden vector라고 하고 time step 시기의 내부 상태를 의미한다. 는 입력 벡터, 는 출력 벡터를 의미한다. 데이터셋이 주어지면 의 크기는...

수학의 본질은 그 자유로움에 있다. 게오르크 칸토어 가산과 비가산 가산 Countable 과 비가산 uncountable 집합은 수학사에서 큰 논쟁거리였다. 가산과 비가산에 대한 이해는 무한의 개념과 무한을 다루는 방법, 더 나아가 수학의 본질 에 다가서...

참여 인원 박수빈: 총괄, 크롤러 개발, 데이터 전처리, AI 모델 설계 및 구현 박현진: 크롤러 개발, DB 구축 및 관리, 크롤링 수행, 데이터 전처리 이승윤: AI 모델 하이퍼파라미터 튜닝 및 세부 설계 및 구현, 모델 학습 이동욱: 금융 데이터 수...

소프트맥스 회귀 Softmax Regression 지금까지 다루었던 분류 문제는 모두 이진 분류였다. 하지만 3개 이상의 선택지중 하나를 고르는 분류문제도 존재한다. 이때는 로지스틱 회귀를 일반화시킨 소프트맥스 회귀 Softmax Regression 을...