전체 글111 BERT 논문 리뷰 _ BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 최근에 BERT 논문을 공부하고, 해당 논문을 바탕으로 많은 사람들 앞에서 발표하는 경험을 해보았다.논문을 직접 읽고 공부하면서 이해한 내용을 발표까지 해보니, 단순히 논문을 읽는 것과 내가 이해한 내용을 다른 사람에게 설명하는 것은 꽤나 다른 경험이었다. 그래서 이번에는 발표를 준비하면서 공부했던 내용을 다시 정리해보고자 한다.오늘 다뤄볼 논문은 바로 Google 연구진이 제안한 BERT이다. [arXiv 1810.04805] BERT 논문 바로가기 BERT: Pre-training of Deep Bidirectional Transformers for Language UnderstandingWe introduce a new language representation model called BERT, w.. 2026. 8. 16. [기수정렬] 비교하지 않고 정렬하는 법 일반적으로 정렬 알고리즘이라고 하면 두 데이터를 서로 비교하여 순서를 결정하는 방식을 떠올린다. 버블 정렬, 선택 정렬, 퀵 정렬은 모두 서로 다른 두 데이터를 끊임없이 비교하면서 정렬한다. 그런데 만약 숫자들을 서로 비교하지 않고도 정렬할 수 있다면 어떨까?언뜻 들으면 불가능해 보이지만, 실제로 이를 구현한 알고리즘이 존재한다.바로 오늘 알아볼 기수 정렬(Radix Sort) 이다. 🧺 비교하지 않고 정렬하는 방법기수 정렬은 서로 다른 두 데이터를 비교하는 대신, 각 자리수의 값을 기준으로 해당하는 버킷에 데이터를 분류하는 방식으로 동작한다. 동작 원리는 초등학생도 이해할 수 있을 만큼 매우 단순하다. 특정 자리수의 값을 확인한 뒤, 그 값에 해당하는 버킷에 데이터를 넣고 다시 순서대로 꺼내는 과정을.. 2026. 6. 13. 오차(Error)와 손실 함수(Loss Function) 이해하기 지난 글에서는 다층 신경망에서 순전파를 통해 모델이 예측값을 만들어내는 과정을 알아보았다.하지만 모델이 예측값을 만들어냈다고 해서 학습이 끝나는 것은 아니다. 더 정확한 모델을 만들기 위해서는 예측값과 실제값의 차이인 오차(Error)를 계산하고,이를 줄이는 방향으로 가중치(Weight)를 수정해야 한다. 그리고 학습 과정에서 오차를 수치화 하기 위해 사용하는 것이 바로 손실함수(loss function)이다 이번 글에서는 오차와 손실 함수에 대해 알아보도록 하자. 해피코딩 - 순전파(Forward propagation) 이해하기 순전파 (Forward propagation) 이해하기DL(Deep Learning)에서 가장 중요한 기술 중 하나를 뽑으라고 한다면, 단언컨대 역전파(Backpropagat.. 2026. 6. 12. [Review] 린치핀(Linchpin) 이번에 리뷰할 책은 그 유명한 세스고딘의 『린치핀』이다. 블로그, 도서 리뷰 유튜버, 혹은 성공한 기업 대표들의 인터뷰를 보다 보면 정말 많은 사람들이 입을 모아 추천하는 인생 책이 있다.그것이 바로 린치핀이다. 사실 나는 이 책을 읽기 전까지는 오히려 거부감이 있었다.읽기 전부터 이미 너무 유명한 책이었고,제목만 봐도 흔하디 흔한 자기계발서처럼 느껴졌기 때문이다. 그러던 중 우연히 세스 고딘의 인터뷰를 보게 되었고 생각이 조금 달라졌다.그는 단순히 책을 팔고 돈을 벌기 위해 성공을 운운 하는 장사치가 아닌,AI의 발전으로 하루하루 빠르게 격변하는 시대 속에서 어떤 사람들이 살아남는지 정확하게 꿰뚫어 보고 있는,깊은 통찰력을 지닌 사람처럼 느껴졌다. 막상 책을 펼쳐 읽어 내려가면서 느낀 점은 명확했.. 2026. 5. 27. 순전파 (Forward propagation) 이해하기 DL(Deep Learning)에서 가장 중요한 기술 중 하나를 뽑으라고 한다면, 단언컨대 역전파(Backpropagation)가 아닐까 싶다. 하지만 역전파를 제대로 이해하기 위해서는, 우선 신경망이 어떤 방식으로 값을 계산하고 모델의 예측값을 만들어내는지 이해할 필요가 있다. 오늘은 다층 신경망(Multi-Layer Neural Network)에서 순전파가 어떤 방식으로 이루어지는지,그리고 출력값이 어떻게 생성되는지 알아보도록 하자.🔥 역전파를 제대로 이해하기 위해서는 먼저 순전파를 이해해야 한다➡️ 순전파 (Forward propagation)순전파란 입력층(Input Layer)에서부터 출력층(Output Layer)까지, 데이터를 순서대로 계산하며 전달하는 과정이다.즉, 모델이 어떤 방식으로.. 2026. 5. 19. WORLD IT SHOW 2026 방문 후기 작년에 이어 올해도 WORLD IT SHOW 2026(WIS 2026)에 방문했습니다.2025년에 처음 방문했을 때의 인상이 워낙 강렬했기 때문에,올해는 어떤 변화가 있을지 가기 전부터 들뜬 마음을 감출 수가 없었습니다. 📅 행사 정보기간: 2026.04.22(수) ~ 2026.04.24(금)장소: COEXWIS 2026은 약 68,493명의 관람객이 방문한 국내 최대 규모의 AI·ICT 전시회로,최신 기술과 앞으로의 IT 미래 산업을 이끌 혁신 기술들을 한 자리에서 볼 수 있는 자리였습니다. 작년과 비교했을 때,전체적으로 AI 중심의 기술과 실제 산업에 적용된 서비스들이 더 많아졌다는 느낌을 받을 수 있었습니다. 이번 전시에서는대통령상국무총리상부총리 겸 과학기술정보통신부 장관상CES 2026 혁신상을.. 2026. 5. 5. 이전 1 2 3 4 ··· 19 다음
