导电胶主要由树脂基体、导电粒子和分散添加剂、助剂等组成。基体主要包括环氧树脂、丙烯酸酯树脂、聚氯酯等。虽然高度共轭类型的高分子本身结构也具有导电性，如大分子吡啶类结构等，可以通过电子或离子导电 ，但这类导电胶的导电性最多只能达到半导体的程度，不能具有像金属一样低的电阻，难以起到导电连接的作用。市场上使用的导电胶大都是填料型。
填料型导电胶的树脂基体，原则上讲，可以采用各种胶勃剂类型的树脂基体，常用的一般有热固性胶黏剂如环氧树脂、有机硅树脂、聚酰亚胺树脂、酚醛树脂、聚氨酯、丙烯酸树脂等胶黏剂体系。这些胶黏剂在固化后形成了导电胶的分子骨架结构，提供了力学性能和粘接性能保障，并使导电填料粒子形成通道。由于环氧树脂可以在室温或低于150℃固化，并且具有丰富的配方可设计性能，环氧树脂基导电胶占主导地位。
导电胶要求导电粒子本身要有良好的导电性能粒径要在合适的范围内，能够添加到导电胶基体中形成导电通路。导电填料可以是金、银、铜、铝、锌、铁、镍的粉末和石墨及一些导电化合物。
导电胶中另一个重要成分是溶剂。由于导电填料的加入量至少都在50% 以上，所以导电胶的树脂基体的黏度大幅度增加，常常影响了胶黏剂的工艺性能。为了降低黏度，实现良好的工艺性和流变性，除了选用低黏度的树脂外，一般需要加入溶剂或者活性稀释剂，其中活性稀释剂可以直接作为树脂基体，反应固化。溶剂或者活性稀释剂的量虽然不大，但在导电胶中起到重要作用，不但影响导电性，而且还影响固化物的力学性能。常用的溶剂(或稀释剂)一般应具有较大的分子量，挥发较慢，并且分子结构中应含有极性结构如碳一氧极性链段等。溶剂的加入量要控制在一定范围内，以免影响导电胶胶体的胶接整体性能。
除树脂基体、导电填料和稀释剂外，导电胶其他成分和胶黏剂一样，还包括交联剂、偶联剂、防腐剂、增韧剂和触变剂等。