Секрет, я полагаю, в цене. Вернее сказать, в разности между ценой вашей видеокарты и той, на которой играет человек в этом примере на ютюбе. Дорогие видеокарты потому и дорогие, что качество изображения дают несравнимое с дешевыми. Тем более, у Вас, если судить по тэгам, ноутбук.
Можно, но с оговорками. Всё оборудование настраивается. В руководстве, на сайте производителя материнской платы можно найти список совместимого оборудования и руководство по совместной работе карт разных производителей, возможно даже специализированные драйвера. Если информации нет, что тоже бывает, скорее всего, производитель не предусмотрел штатный режим работы двух видео карт. И тут надо мудрить с ПО карт и сторонних разработчиков, чтобы заставить карты работать, как надо. Может и не получиться со старыми материнскими платами.
В ноутбуках две карты не редкость, настройки также могут быть разные. И без танцев с бубном часто не обойтись. Хотя по идее карты сами должны переключаться в зависимости от задачи, на простые - интегрированная, слабая, на ресурсоёмкие - дискретная, с высокой производительностью.
На новых видеокартах не играет (1024 или 2048), Рулит частота шины.
На старых (как на скриншоте) возможно имеет значение .Из 2х предложенных выбрал бы Нвидию. Тк, есть HDMI выход. Оптимизация игр лучше под нее (старых по крайней мере). Да и Радике совершенно ненужное 24х сглаживание, Кросс файр (2 видеокарты можно ставить, которые толком не работают друг с другом, да и время не то). И самое главное у меня сейчас стоит HD 4850, так вот года 3 назад когда играл в игры, в некоторых допустим Готика 3, Драгон Нест, Lol(!) карта выкидывала "матрац", спасала только перезагрузка. Да и тот же Скайрим, приходилось оптимизировать несколько часов, чтобы ~30 фпс выжать. Единственно что смущает версия OpenGL 2.1 против 3.1, честно ничего об этом не знаю.
И да, в последнее время все больше информации про скотское отношение Нвидии, к пользователям, те старые драйвера они не обновляют, что сказывается на производительности.
Если бы вы указали цель с которой выбираете видеокарту, думаю было бы проще ответить.
Новые (если найдешь конечно) не дешевле чем стоили на момент продаж.
Б/у зависит от состояния и аппетита продавца.
Однако не стоит рассчитывать на приобретение топовой еще актуальной видеокарты за бесценок - никто такие подарки делать не будет, если цена ниже рыночной это серьезный повод задуматься не съест ли тебя кот сидящий в мешке который продают.
<hr />
Так же хочу отметить, что rx 550 вышла менее года назад (сейчас январь 2018 года)
Видеокарты на NVidia Geforce GT 740 - это видеокарты среднего ценового сегмента, стоят от 5 до 8 примерно тыс. р. По характеристикам тоже довольно средние, есть удешевленные версии на DDR3, ждать от них хорошего быстродействия, думаю, не стоит. Есть и более резвые модели, например, ASUS GF-GT740 с 2ГБ DDR5, но все равно это далеко от идеала. Вот тут есть некоторые тесты и комментарии к картам на GT 740. По тестам они проигрывают даже картам GT650. Для дома GT740 - вполне приемлемый вариант, не очень дорого, достаточно мало греется и большинство игр на ней будет идти, конечно, не супер, но работать будет.