반응형 분류 전체보기97 딥러닝 공부 책 추천 [Easy 딥러닝] Self-Attention이란 최근 인공지능 발전에 큰 도움을 준 트랜스포머의 핵심이라고 할 수 있는 Self-Attention에 대하여 알아보겠습니다.Easy 딥러닝 책을 기반으로 attention의 내용을 공부했으며, 자연어처리에서 처음 나온 개념이고, 해당 책에 구체적인 설명과 그림을 통해서 이해하기 쉽도록 나와있기 때문에 추천드리는 책입니다.공부한 내용과 이해한 부분을 그림으로 표현해봤습니다. Attention은 입력 데이터에서 모델이 중요한 부분에 “주의”를 집중할 수 있도록 하는 방법입니다.이러한 과정은 사람이 긴 글이나 그림을 볼 때 중요한 부분에 집중하는 것과 유사합니다.기존에 사용되던 RNN 방식의 Attention의 문제점 중 하나는 '멀수록 잊혀진다'는 RNN의 근본적인 문제가 여전히 존재한다는 것이고, Atten.. 2025. 2. 16. [논문 리뷰] ControlNet: Adding Conditional Control to Text-to-Image Diffusion Models AbstractControlNet은 Pretrained text-to-image diffusion model에 spatial conditioning control을 추가하는 neural network 아키텍처다.ControlNet은 이미 학습이 다 된 large diffusion model을 freeze하여 수십 억개의 이미지로 pretrain된 encoding layer를 백본으로 재사용하여 다양한 conditional control set을 학습한다. 아키텍처는 파라미터를 0에서 점차 증가시키는 "zero convolution"(초기화된 convolution layer)으로 연결되고, 유해한 noise가 finetuning에 영향을 주지 않도록 보장한다. edge, depth, segmentation.. 2023. 11. 9. [Python] 프로그래머스 - 옹알이(1) 문제 풀이 def solution(babbling): temp = ["aya", "ye", "woo", "ma"] answer = 0 for i in babbling: for k in temp: i = i.replace(k, ' ') i = i.replace(' ', '') if len(i) == 0: answer += 1 return answer 조카가 발음할 수 있는 단어를 list에 담아준다. 정답을 맞췄다면 카운트를 세줄 answer 변수를 만들어준다. 들어오는 입력값인 babbling를 반복문으로 하나씩 읽는다. 이중 for문을 사용해서 조카가 발음할 수 있는 단어들을 확인한다. 들어온 입력값인 i에 조카가 발음할 수 있는 단어가 있으면 replace를 통해서 공백으로 바꿔준다. ''이 아닌 '.. 2023. 9. 28. [Python] 예외 처리 예외처리란? 오류 상황에 대처하는 것이 예외 처리이다. 예외 처리하기: try-except 문 try: 실행할 명령1 실행할 명령1 ... except 오류 종류: 예외 처리 명령1 예외 처리 명령2 ... try: print('나누기 전용 계산기') num1 = int(input('첫 번째 수: ')) num2 = int(input('두 번째 수: ')) print(f'{num1} / {num2} = {int(num1/num2)}') except ValueError: print('오류 발생 잘못된 값을 입력했습니다.') 입력값에 6와 '삼' 을 넣으면 except 부분의 print() 문이 실행된다. 프로그램을 다시 실행해서 6과 0을 넣으면 다른 에러를 발생 시킨다. ValueError와는 다른 종류.. 2023. 4. 1. 이전 1 2 3 4 ··· 25 다음
