전체 글 (291) 썸네일형 리스트형 6장 2개의 층을 연결 - 다층 신경망 (2) 6-2 2개의 층을 가진 신경망 구현 - 하나의 층에 여러개 뉴런 사용 - 출력을 하나로 모으기 - 은닉층이 추가된 신경망 - 다층 신경망 개념 정리 n개의 입력이 m개의 뉴런으로 입력 은닉층을 통과한 값들은 출력층으로 모임 활성화 함수는 층마다 다를 수 있지만 한 층에서는 같아야 함 모든 뉴런이 연결되어 있으면 완전 연결 신경망 - 다층 신경망에 경사 하강법 적용 ※ 해당 내용은 의 내용을 토대로 학습하며 정리한 내용입니다. 6장 2개의 층을 연결 - 다층 신경망 (1) 6-1 신경망 알고리즘을 벡터화하여 한 번에 전체 샘플 사용 - 벡터화 벡터화(vectorization)된 연산을 사용하면 알고리즘의 성능을 높일 수 있음 - 벡터 연산과 행렬 연산 - SingleLayer 클래스에 배치 경사 하강법 적용 1. 넘파이와 맷플롯립 임포트 import numpy as np import matplotlib.pyplot as plt 2. 위스콘신 유방암 데이터 세트를 훈련, 검증, 테스트 세트로 나누기 from sklearn.datasets import load_breast_cancer from sklearn.model_selection import train_test_split cancer = load_breast_cancer() x = cancer.data y = cance.. 5장 훈련 노하우 배우기 (3) - 로지스틱 회귀에 규제 적용 1. 그레이디언트 업데이트 수식에 페널티 항 반영 def __init__(self, learning_rate=0.1, l1=0, l2=0): self.w = None self.b = None self.losses = [] self.val_losses = [] self.w_history = [] self.lr = learning_rate self.l1 = l1 self.l2 = l2 2. fit() 메서드에서 역방향 계산 수행 시 그레이디언트에 페널티 항의 미분값 더함 def fit(self, x, y, epochs=100, x_val=None, y_val=None): self.w = np.ones(x.shape[1]) # 가중치를 초기화합니다. self.b = 0 # 절편을.. 이전 1 ··· 66 67 68 69 70 71 72 ··· 97 다음
