Если вектор
умножается векторно на вектор
и полученный вектор
умножается скалярно на вектор
, то тем самым определяется число
, называемое векторно–скалярным или смешанным произведением трех векторов
,
и
, взятых в указанном порядке.
Геометрический смысл смешанного произведения выражается следующей теоремой.
Модуль смешанного произведения ненулевых и некомпланарных векторов с общим началом равен объему параллелепипеда, построенного на этих векторах.
Доказательство. Три заданных вектора
,
и
приведем к общему началу и на них построим параллелепипед.
Скалярное произведение векторов
равно
,
|
- орт вектора
Но
- площадь параллелограмма, построенного на векторах
и
т.е. площадь основания параллелепипеда, а
- высота параллелепипеда. Следовательно,
SH – объем параллелепипеда.
Следствие 1. Если тройка векторов
,
,
правая, то
, если левая – то
.
Действительно, если
,
,
- правая тройка векторов, то угол φ между векторами
и
острый и cos φ > 0. Если же
,
,
- левая тройка векторов, то угол α = π –φ между векторами
и
тупой и cos α < 0, а тогда 
Следствие 2. Т.к.
,
,
и
,
,
и
,
,
- тройки одной ориентации, то при циклической перестановке векторов их смешанное произведение не изменяется: 
Следствие 3. Из коммутативности скалярного произведения
и из 2-го следствия
получаем
, т.е. в смешанном произведении знаки скалярного и векторного умножения можно менять местами.
В силу следствия 3 смешанное произведение иногда обозначают символом
.
Следствие 4. 
Теорема. Смешанное произведение векторов
,
,
равно нулю тогда и только тогда, когда эти векторы компланарны.
Доказательство. Векторы полагаем ненулевыми. В противном случае, если хотя бы один из них нулевой, теорема очевидно верна.
Необходимость. По определению векторного произведения векторы
и
перпендикулярны вектору
и если (
, то и вектор
перпендикулярен вектору
. Но если три вектора
,
и
перпендикулярны вектору
, то они компланарны.
Достаточность. Если векторы
,
и
компланарны, то их можно расположить в одной плоскости a. Вектор
перпендикулярен векторам
а тогда он перпендикулярен и плоскости a и вектору
, поэтому
.
Смешанное произведение обладает свойством линейности относительно каждого своего множителя. Например, если полагать
и воспользоваться линейностью скалярного произведения
, то получим тождество

выражающее линейность смешанного произведения по третьему множителю. Аналогичные тождества справедливы и для первого и для второго множителей, т.к. 
Задача 0.46. Вектор
перпендикулярен векторам
. Зная, что

Решение. Модуль вектора (
) равен площади параллелограмма, построенного на векторах
, т. е. числу 
Векторы
и
оба перпендикулярны векторам
и
, а потому коллинеарны и косинус угла φ между ними равен -1 либо 1.
Следовательно,

Ответ: Если тройка векторов
,
,
правая, то
если левая, то
.