Смешанным произведением векторов , обозначаемым , называется скалярное произведение векторного произведения векторов и на вектор :
= .
Учитывая данные ранее определения скалярного и векторного произведений, можно выписать и более подробную формулу для вычисления смешанного произведения векторов:
.
Если вектора привести к общему началу и построить на них параллелепипед (вектора и совпадают со сторонами основания, а вектор с боковым ребром) или пирамиду, то модуль смешанного произведения векторов будет равен объему параллелепипеда или шести объемам пирамиды :
или .
Напомним, что , где , высота H определяется как проекция бокового ребра на направление нормали к основанию, т.к. векторное произведение совпадает с направлением нормали, то .
Если вектора лежат в одной плоскости (компланарны), то ясно, что на них нельзя построить ни пирамиду, ни параллелепипед, поэтому смешанное произведение компланарных векторов равно нулю.