ошибка C2679: двоичный файл ‘=’: не найден оператор, который принимает правый операнд типа ‘IplImage *’ (или нет приемлемого преобразования) OpenCV

cvQueryFrame возвращает IplImage*в то время как ваш frame имеет тип Mat,

У вас есть два варианта:

1) Конвертировать из IplImage* в Mat

frame = Mat(cvQueryFrame(capture));

2) использовать синтаксис C ++, с VideoCapture (рекомендуемые)

VideoCapture cap(0);
...
for(;;)
{
Mat frame;
cap >> frame;
...
}