수업시간에 배운 내용 + 따로 궁금한거 찾아서 이해를 위해 추가한 내용입니다.
Set
An unordered collection of distict objects, called elements.
집합은 순서가 없고, 서로 다른 원소들로 이루어진 묶음이다.
Cartesian product (데카르트 곱)
집합 A와 B에서 하나씩 골라 쌍(pair)을 만드는 것.
A = {1,2}
B = {x, y}
A × B = { (1,x), (1,y), (2,x), (2,y) }
모든 가능한 조합을 만든다.
왜? 왜 가능한 모든 조합을 만드는 데카트르 곱(Cartesian product)을 해야할까?
딥러닝에서 데카트르 곱(Cartesian product) 은 "누락 없는 관계 형성"을 의미
- 데이터 구성: 서로 다른 속성들을 조합해 방대한 학습 케이스를 만듭니다.
- 연산 방식: 입력 데이터의 모든 요소가 서로 어떻게 연결되는지(Attention 등) 계산합니다.
- 성능 튜닝: 가능한 모든 설정 조합을 시도해 최고의 모델을 뽑아냅니다.
집합(Set)과 데카트르 곱(Cartesian product)의 연관성
- 집합과 데카트르 곱(Cartesian product)의 관계는 딥러닝에서 데이터의 재료와 조합의 관계와 같다.
- 순서가 없는 원소들의 모임인 집합(Set)은 딥러닝 연산의 핵심인 순서가 있는 쌍 (Ordered Pair) 다차원 구조로 탈바꿈한다.
- 연관성 : 집합은 단순히 무엇이 있다를 정의하지만, 데카트르 곱(Cartesian product)은 그 원소들 사이에 관계를 부여한다. 딥러닝에서 입력 X가 출력 Y로 간다는 관계는 사실 X x Y 라는 데카르트 곱(Cartesian product)의 부분집합을 찾는 과정이다.
왜 모든 원소를 비교 (All to all ) 할까?
-> 모든 원소를 비 교하는 과정은 파편화된 재료(Set)를 의미 있는 정보로 데이터화 하기 위한 필수적인 단계
1. 관계의 누락을 방지하기 위해
2. 문맥(Context)을 데이터화 하기 위해
3. 가중치(Weight)라는 정답지 후보를 만들기 위해
즉 모든 비교 과정은 모델이 학습할 수 있는 연산의 장을 만드는 데이트 구성 방식
Function
An assignment of exactly one element of B to each element of A
A의 각 원소에 대해 B의 원소 하나를 정확히 대응시키는 것.
함수는 데카르트 곱으로 만들어진 방대한 관계들 중에서 규칙성을 부여하는 단계
딥러닝에서 입력 X가 출력 Y로 가는 모델을 단드는것은 X x Y 라는 거대한 가능성(데카르트 곱) 중에서
우리가 원하는 규칙(함수)라는 부분집합을 찾는 과정.
f는 A에서 B로 가는 함수
입력 a를 넣으면 결과 f(a)가 나온다.
ex)
f(x) = x^2 (에프엑스는 x의2승) 일때
f(2) = 4
f(3) = 9
one to one function (일대일 함수)
서로 다른 입력이면 출력도 서로 달라야 한다.
f(x)=2x
1 → 2
2 → 4
3 → 6
모든 결과가 달라서 one to one
f(x)=x²
2 → 4
-2 → 4
입력은 다른데 결과가 같음 ono to one 아님
Indicator function (지시 함수)
어떤 조건 p가 참이면 1, 거짓이면 0
p : x > 0
1(p) = 1 (x>0이면)
1(p) = 0 (x≤0이면)
댓글