Скалярным произведением
двух ненулевых векторов
и
называется число, равное произведению длин этих векторов на косинус угла между ними:
, где
- угол между векторами
и
(рис.4).

Рис.4
Пусть заданы два вектора в координатной форме
и 
Скалярное произведение двух ненулевых векторов в координатной форме равно сумме произведений соответствующих координат этих векторов:
.
Косинус угла между векторами вычисляется по формуле:
.
Условием перпендикулярности ненулевых векторов
и
является равенство нулю их скалярного произведения:
.
Векторным произведением двух векторов
и
называется вектор
, который:
1) имеет модуль, численно равный площади параллелограмма, построенного на векторах
и
:
;
2) перпендикулярен к плоскости этого параллелограмма;
3) направлен в такую сторону, с которой кратчайший поворот от
к
рассматривается совершающимся против часовой стрелки (такое расположение векторов
,
и
называется правой тройкой векторов) (рис.5).

Рис.5
Векторное произведение ненулевых векторов
вычисляется через координаты данных векторов
и 
следующим образом: 
Равенство нулю векторного произведения двух ненулевых векторов является условием их коллинеарности, т.е.
½½
.
Смешанное произведение трех векторов
,
и
, которое обозначается
или
, есть скаляр, абсолютная величина которого равна объему параллелепипеда, построенного на векторах
,
и
, как на ребрах.
Смешанное произведение трех векторов вычисляется в координатной форме по формуле:
.
Равенство нулю смешанного произведения трех ненулевых векторов является условием их компланарности:
.
Задача. Определить внутренние углы
и
треугольника
c вершинами в точках 
Решение. Внутренний угол
- это угол между векторами
и
, который вычисляется через скалярное произведение векторов по формуле: 

Отсюда, 
Аналогично, находя предварительно
, получим

Отсюда 
Задача. Вычислить площадь треугольника с вершинами в точках
и высоту
(рис.6).
Решение.

Рис.6
Найдем координаты векторов
Площадь треугольника вычисляется через векторное произведение векторов по формуле:
.

Тогда
.
С другой стороны
, отсюда высота
.
Так как
,
то высота
.
Задача. Вычислить объем пирамиды с вершинами в точках
и высоту, опущенную из точки
на основание
(рис.7).
Решение.

Рис.7
Найдем координаты векторов
:
.
Объем пирамиды вычисляется через смешанное произведение векторов по формуле:
.
Смешанное произведение векторов
.
Следовательно, 
С другой стороны
. Откуда высота пирамиды
, где площадь треугольника 


Тогда, 
Следовательно, высота пирамиды
= 
.